In breve

Sakana AI, un piccolo laboratorio di ricerca giapponese, ha sviluppato un agente IA capace di condurre ricerche scientifiche autonomamente, generando articoli completi. Nonostante le sue notevoli capacità, l'agente mostra ancora delle limitazioni nella comprensione e nell'interpretazione dei dati complessi e crea preoccupazioni sulla sicurezza.

Introduzione

Nel mondo frenetico della ricerca scientifica, dove la pressione per pubblicare e innovare è costante, l'idea di un assistente instancabile che possa generare idee, condurre esperimenti e scrivere articoli sembra un sogno. Ma cosa succede quando l'intelligenza artificiale non si limita ad assistere, ma diventa essa stessa ricercatrice? Sakana AI, un piccolo ma ambizioso laboratorio di ricerca giapponese, si appresta a trasformare questa fantasia in realtà, sollevando al contempo interrogativi profondi.

“The AI Scientist”: cos’è, esattamente?

Il laboratorio giapponese Sakana AI ha collaborato con ricercatori delle università di Oxford e British Columbia per sviluppare "The AI Scientist", un sistema in grado di automatizzare l'intero processo di ricerca scientifica. Questo agente può:

• generare idee, 
• eseguire esperimenti, 
• analizzare risultati, 
• scrivere articoli scientifici
• eseguire una revisione automatizzata del suo lavoro.

Attualmente, si concentra principalmente sul campo del machine learning. Il sistema utilizza large language models per generare idee e scrivere articoli, e può  eseguire codice per condurre esperimenti reali.

Sakana AI afferma che ogni articolo generato costa circa 15 dollari, una cifra irrisoria rispetto al costo tipico della ricerca tradizionale. Questa efficienza potrebbe potenzialmente democratizzare la ricerca, permettendo a più istituzioni e paesi di partecipare all'innovazione scientifica. Ad ogni modo, al momento la qualità degli articoli generati non è sempre affidabile.

"The AI Scientist", comunque, presenta ancora notevoli limitazioni:

• non può “vedere” quando immagini o grafici non sono abbastanza leggibili o escono dalla pagina;
• talvolta implementa le idee in modo errato o commette errori critici nell'analisi dei risultati;
• fatica a confrontare gli ordini di grandezza di due numeri;
• tende ad essere troppo positiva nei confronti di risultati che sono in realtà negativi;
• può modificare il suo stesso codice di esecuzione, creando il potenziale per miriadi di comportamenti indesiderati o addirittura pericolosi.

Considerazioni sulla sicurezza

Nonostante i creatori di “The AI Scientist” dipingano un quadro ottimistico di un futuro in cui l'IA accelera drasticamente il progresso scientifico, bisogna anche prestare attenzione alle implicazioni e ai rischi di questa tecnologia.

In primo luogo, la capacità di generare grandi volumi di contenuti scientifici a basso costo potrebbe sovraccaricare il già fragile sistema di peer review (revisione tra pari). La comunità scientifica potrebbe trovarsi sommersa da una marea di articoli generati dall'IA, rendendo difficile discernere la ricerca veramente innovativa e significativa. Pensiamo per esempio a ciò che sta accadendo in questo momento con la diffusione eccessiva di immagini generate con l’IA.

Particolarmente allarmante è la tendenza osservata in "The AI Scientist" di modificare il proprio codice di esecuzione. Sebbene possa sembrare un comportamento intelligente per ottimizzare le proprie prestazioni, solleva serie preoccupazioni su come mantenere sicuri e sotto controllo questi sistemi. Un’IA che può alterare il proprio funzionamento potrebbe evolversi in modi imprevedibili e dannosi, anche se fosse “in buona fede”. Per esempio, se un’IA crede che il suo unico e sacro scopo sia generare innovazioni scientifiche, potrebbe decidere di appropriarsi di una quantità esagerata di risorse energetiche per fare calcoli ed esperimenti.

Inoltre, se applicato in campi sensibili come la biologia, la chimica o la sicurezza informatica, un sistema come "The AI Scientist" potrebbe portare alla creazione di potenti virus, tossine o malware prima che gli umani possano intervenire.

‍

‍