L’Intelligenza Artificiale è CIECA COME UNA TALPA!!!

L’intelligenza artificiale più potente mai costruita è CIECA COME UNA TALPA!!!

Ebbene si, quella che ti scrive un programma in dieci secondi, ti traduce in quaranta lingue e ti sputa fuori un’analisi mentre ancora finisci di formulare la domanda — ha un piccolo difetto che nei convegni nessuno ha il coraggio di dirti: non ci vede. Non sa se il codice che ha appena scritto funziona o se ha appena mandato tutto in fumo. Ti risponde con lo stesso tono trionfante sia quando ha ragione sia quando ha detto una castroneria colossale. È un genio che lavora bendato — e la benda gliela togli tu, oppure resta lì.

Da quando l’AI è entrata nel lavoro di tutti i giorni, mi sento fare sempre la stessa domanda: “Quale modello usi? Qual è il prompt magico?” È la domanda sbagliata. E lo dico dopo mesi passati a far lavorare agenti su cose vere, non su demo da palcoscenico. Il trucco decisivo è uno solo: dare all’agente un modo per verificare da solo se ha fatto bene.

Test automatici. Controlli. Uno strumento che gli dica, senza ambiguità, “questo funziona / questo l’hai rotto”. Un circuito chiuso di feedback sulla correttezza. Non il prompt perfetto. Non il modello con più parametri. Non l’ultima release annunciata con i fuochi d’artificio. La differenza tra un agente che converge verso una soluzione giusta e uno che accumula errori con sicurezza crescente è tutta lì: può vedere il risultato di quello che fa, oppure lavora al buio?

Se lavora al buio, produce spazzatura convinta. E la produce più in fretta di un umano — che è la parte pericolosa. C’è un caso di Anthropic che dice tutto: un agente chiuso in un container, senza internet, a cui viene chiesto di scrivere un compilatore C in Rust. Tra le cose che l’agente “scopre” da solo per riuscirci, c’è proprio questa: deve costruirsi un sistema per osservare il proprio lavoro e accorgersi delle regressioni.

Fermatevi un attimo. La macchina, messa a fare una cosa difficile davvero, arriva da sola alla stessa conclusione a cui è arrivato qualsiasi bravo ingegnere prima ancora che esistesse l’AI: senza un modo per misurare la correttezza, non vai da nessuna parte. E allora perché ve ne parlo, che non scrivete compilatori? Perché questo principio non riguarda solo il codice. Riguarda chiunque stia provando a mettere l’AI dentro il proprio lavoro.

L’AI senza un modo per controllarsi è un collaboratore brillante, velocissimo e totalmente privo di senso critico su se stesso. Vi scrive l’email, l’analisi, il report, la strategia — con lo stesso tono sicuro sia quando ci ha azzeccato sia quando ha detto una fesseria. Il valore, quindi, non sta nel “chiedere bene”. Sta nel costruire attorno all’AI l’impalcatura che le permette di sbagliare in modo visibile: dati veri da confrontare, criteri chiari di cosa significa “fatto bene”, un momento in cui qualcuno o qualcosa dice “no, qui non torna”.

Chi salta questo pezzo — e la maggior parte lo salta, perché è la parte noiosa — ottiene esattamente quello che si merita: errori più veloci, non risultati migliori.

Il mercato vi vende il modello. Vi vende il prompt. Vi vende lo strumento con l’interfaccia più luccicante. La verità è più scomoda e molto meno vendibile: il lavoro serio con l’AI si fa nell’infrastruttura invisibile che le sta intorno. Nel feedback loop. Nella verifica. Nella disciplina di non fidarsi di una risposta solo perché suona convinta. Se state portando l’intelligenza artificiale nei vostri processi e vi state concentrando su quale strumento usare invece che su come farlo controllare, state guardando il dito e non la luna.

E voi? State costruendo il circuito di verifica, o state solo facendo errori più in fretta? Ditemelo nei commenti.