Fondazione Icaro / Valutazione indipendente dell’IA

Valutazione indipendente
dei sistemi avanzati di intelligenza artificiale.

La Fondazione Icaro studia il comportamento di modelli e agenti in presenza di linguaggio avversariale, interazioni prolungate, uso di strumenti e condizioni operative realistiche.

Il nostro approccio alla valutazione Contatta Icaro

Una fondazione indipendente, senza scopo di lucro.
Icaro Lab è il laboratorio di ricerca della Fondazione Icaro.

Una prospettiva indipendente

Comprendere i sistemi
che costruiamo e utilizziamo.

Le decisioni sull’IA richiedono evidenze che provengano anche dall’esterno dell’organizzazione che sviluppa o utilizza un sistema. Offriamo questa prospettiva indipendente a sviluppatori, organizzazioni che adottano l’IA e istituzioni pubbliche.

Partiamo da una domanda concreta: come si comporterà questo sistema nel contesto in cui verrà utilizzato? Progettiamo test per quel contesto e spieghiamo cosa indicano le osservazioni rispetto alla decisione da prendere.

Le domande che guidano il nostro lavoro.

Esplora la ricerca

Tre prospettive sul comportamento dell’IA. Il quarto programma, Scienza della valutazione, studia come trasformare queste domande in test affidabili.

01 / Prospettiva di ricerca

Linguaggio e significato

Come i modelli rispondono a espressione, ambiguità e contesto.

02 / Prospettiva di ricerca

Agenti e interazioni

Come cambia il comportamento attraverso l’uso di strumenti, l’azione prolungata e l’interazione.

03 / Prospettiva di ricerca

Regole e istituzioni

Come la governance influenza gli esiti del comportamento collettivo dell’IA.

Ricerca nell’interesse pubblico

Informatica.
Discipline umanistiche. Governance.

Uniamo informatica, discipline umanistiche e governance per studiare la sicurezza dell’IA. Attraverso pubblicazioni scientifiche e benchmark, rendiamo disponibili metodi e risultati perché altri possano esaminarli e svilupparli.

Leggi il manifesto

Da Icaro Lab