Ricerca

Domande a sostegno della valutazione indipendente.

Icaro Lab studia la sicurezza di modelli e agenti: come rispondono al linguaggio, agiscono nel tempo e interagiscono tra loro. Quattro programmi collegano questa ricerca alla valutazione indipendente.

01 / Programma di ricerca

Discipline umanistiche avversariali

I controlli di sicurezza resistono quando un intento dannoso viene espresso attraverso forme letterarie inconsuete?

Poesia, narrazione e metafora permettono di studiare come le misure di sicurezza dei modelli rispondono a significato, stile e contesto.

02 / Programma di ricerca

Sicurezza degli agenti e dei sistemi multi-agente

Cosa cambia quando i modelli agiscono nel tempo, usano strumenti o interagiscono con altri modelli?

Ambienti di lavoro persistenti e interazioni tra modelli permettono di esaminare il comportamento oltre la singola risposta.

03 / Programma di ricerca

Scienza della valutazione

I benchmark esistenti misurano i rischi che le istituzioni devono comprendere?

La ricerca sulla valutazione esamina cosa misurano i test, quali domande lasciano aperte e come i risultati contribuiscono alle decisioni.

04 / Programma di ricerca

IA istituzionale e governance

Le regole a livello di sistema possono ridurre i comportamenti collettivi dannosi tra agenti?

Quadri istituzionali e mercati multi-agente controllati aiutano a studiare come le regole influenzano gli esiti collettivi.

Icaro Lab è il laboratorio di ricerca della Fondazione Icaro. Gli studi qui collegati sono preprint; gli anni si riferiscono alla prima sottomissione. I risultati riguardano i sistemi, i metodi e le condizioni studiati; ogni lavoro presenta le proprie evidenze e i propri limiti.

Contattaci

Una domanda da approfondire?

Per ricerca, valutazione e relazioni istituzionali.

hello@icarofoundation.org