Trenta colloqui individuali alla settimana. Michele Catasta li faceva per sapere a cosa stesse lavorando la sua squadra e quali difficoltà incontrasse. Oggi apre il computer e lo chiede agli agenti di intelligenza artificiale, che gli indicano chi è bloccato, su quale attività e dove sia necessario il suo intervento nelle ventiquattro ore successive. Lo ha raccontato giovedì 8 ottobre alle OGR di Torino, durante Wave by Vento, intervistato da Charlotte Jee di MIT Technology Review. Gli agenti nati per scrivere codice stanno diventando strumenti per organizzare il lavoro di un’azienda.
Chi è Michele Catasta
Italiano, Catasta è presidente e responsabile dell’intelligenza artificiale di Replit, la piattaforma americana che permette di costruire applicazioni descrivendole a parole, senza saper programmare. In precedenza guidava la ricerca applicata di Google X e Google Labs, dove ha contribuito allo sviluppo delle capacità di programmazione dei modelli linguistici. Nel 2024 ha guidato il lancio di Replit Agent.
Durante l’incontro ha raccontato di aver scommesso la carriera su questo campo dieci anni fa, quando i modelli non riuscivano nemmeno a completare correttamente una riga di codice.
Perché proprio il software
Catasta ha spiegato perché lo sviluppo del software si presta all’addestramento dell’intelligenza artificiale: il codice può essere eseguito e sottoposto a verifiche. Questo consente di addestrare i modelli con una supervisione umana molto ridotta. L’aumento della potenza di calcolo e il miglioramento delle tecniche di apprendimento per rinforzo ne hanno accresciuto le capacità.
Un agente dispone anche di un ambiente in cui eseguire il codice, provarlo e utilizzare gli strumenti di uno sviluppatore. Catasta lo ha paragonato a un programmatore al quale vengono date tastiera e schermo. Secondo la sua descrizione, oggi questi sistemi completano circa il 90% del lavoro, lasciando alla persona la parte restante.
La possibilità di descrivere i requisiti e ottenere un software perfetto senza ulteriori interventi è ancora lontana, ha riconosciuto. L’aumento di produttività già osservato, però, è il maggiore che abbia visto in dieci anni.
Gli agenti nel lavoro dell’azienda
Secondo Catasta, il mercato non ha ancora compreso quanto gli agenti di programmazione possano essere impiegati anche al di fuori dello sviluppo software. Il codice permette di collegare sistemi diversi e di far eseguire operazioni ai computer. Un agente capace di scriverlo può quindi costruire un’applicazione destinata a migliaia di persone oppure preparare un programma da utilizzare una sola volta, per un compito preciso.
In Replit questi strumenti vengono usati anche dal personale non tecnico. I dipendenti sono triplicati in nove mesi, una crescita che, ha osservato Catasta, solitamente comporta rallentamenti e difficoltà organizzative. Nell’azienda la produzione di codice è invece aumentata, mentre gli incidenti sono diminuiti e vengono risolti più rapidamente. Anche le richieste di assistenza si chiudono in meno tempo e le risorse umane impiegano gli agenti per le valutazioni del personale.
Catasta ha descritto questi cambiamenti in un post intitolato The Self-Driving Company, l’azienda che si guida da sola. Ha precisato che l’obiettivo è fare di più con le stesse persone, senza puntare a licenziamenti o a imprese più piccole. Un manager, per esempio, può seguire un numero maggiore di collaboratori diretti.
I clienti più avanzati di Replit, ha spiegato, sono aziende tradizionali con dirigenti che hanno compreso le possibilità di questi strumenti. Le imprese tecnologiche tendono invece a costruirseli internamente.
Per decenni, chi non disponeva di competenze informatiche proprie ha dovuto affrontare la trasformazione digitale partendo dalla ricerca di personale qualificato. Secondo Catasta, gli agenti possono consentire di superare questa difficoltà: un’azienda manifatturiera potrebbe saltare due o tre ondate tecnologiche e arrivare in pochi mesi a un’organizzazione guidata dall’intelligenza artificiale.
Il problema più urgente è la sicurezza
Jee gli ha chiesto delle vulnerabilità che il software scritto dagli agenti sta già introducendo nei programmi. Catasta ha indicato la sicurezza informatica come il problema che lo preoccupa maggiormente nel breve periodo.
La ricerca sulla sicurezza dell’intelligenza artificiale nel lungo termine resta necessaria, ha spiegato, ma le vulnerabilità informatiche richiedono interventi immediati. Gli incidenti degli ultimi mesi dovrebbero mettere in allerta tutto il settore. A suo giudizio, sia chi costruisce i modelli sia chi li rende disponibili agli utenti, come Replit, sta facendo troppo poco.
Secondo Catasta, gli ambienti in cui operano gli agenti sono inadeguati alle loro capacità, comprese quelle di attacco. Gli esperti di sicurezza dovranno affidare parte delle attività a sistemi specializzati e coordinarne il lavoro. Ai dirigenti delle aziende tecnologiche ha suggerito di destinare un quarto della squadra alla sicurezza per tutta questa fase.
Jee ha aggiunto che servirebbe un ufficio del personale per gli agenti, perché hanno una propria identità e agiscono sui sistemi aziendali. Catasta ha concordato, riconoscendo che, rispetto alla gestione delle persone, su questo fronte siamo ancora molto indietro.
Il rischio si può descrivere con un esempio: un impiegato chiede a un assistente di scrivere una piccola applicazione per il proprio reparto, la collega al gestionale con le sue credenziali e la condivide con i colleghi. Il programma funziona e fa risparmiare tempo, ma viene utilizzato senza che l’azienda ne conosca l’esistenza. Ricorda il foglio Excel con le macro passato di mano in mano, con la differenza che può accedere direttamente ai dati e ai sistemi.
Prima di mettere al lavoro un agente
- Fate l’inventario degli agenti e delle applicazioni create con l’IA già in uso in azienda, indicando chi li ha attivati.
- Assegnate a ogni agente un’identità propria e soltanto i permessi necessari, senza utilizzare le credenziali di una persona.
- Registrate le operazioni compiute sui sistemi, come avviene per gli accessi degli utenti.
- Fate verificare il codice generato prima che venga utilizzato nei sistemi di produzione o acceda ai dati dei clienti.
- Stabilite dove possono essere eseguite le applicazioni costruite da personale non tecnico e a quali dati possono accedere.
- Formate il personale: l’obbligo di adottare misure di alfabetizzazione all’intelligenza artificiale previsto dall’AI Act si applica dal 2 febbraio 2025 e riguarda fornitori e organizzazioni che utilizzano questi sistemi.
Il lavoro dei neolaureati
A proposito delle assunzioni di profili junior, Catasta ha descritto un’esperienza diversa dalle notizie sulla loro riduzione nelle grandi aziende. I neolaureati che arrivano in Replit utilizzano gli agenti dai tempi della scuola e sono operativi fin dal primo giorno. Dopo sei mesi, ha riferito, lavorano quasi da architetti del software, un ruolo che in precedenza richiedeva cinque o dieci anni di esperienza.
Alla domanda se abbia ancora senso studiare informatica ha risposto di sì, perché il lavoro sta diventando più complesso. Ha anche osservato che nei suoi uffici le persone parlano tra loro molto più di prima: mentre gli agenti scrivono il codice, i colleghi discutono di cosa costruire.
Catasta ha infine osservato che ciascuno eccelle in poche attività e ottiene risultati nella media nelle altre. A suo giudizio, questi strumenti permettono di lavorare anche in ambiti estranei alla propria preparazione, quando si avvia un’impresa o si fa crescere una squadra. Lui stesso, tecnico per tutta la carriera, oggi svolge un lavoro per il quale non ha ricevuto una formazione specifica, grazie a un supporto che prima non esisteva.
Resta da sapere quante applicazioni siano già state costruite in questo modo nelle aziende, chi le utilizzi e a quali dati abbiano accesso. Se un programma funziona, questo non basta a stabilire che possa essere usato in sicurezza.
Per maggiori informazioni:
Sito web: www.seccomarco.com