Ricerca con colleghi della Sapienza sul linguaggio avversariale e sulla sicurezza dei modelli linguistici.
Leggi lo studio
Fondazione Icaro / Valutazione indipendente dell’IAValutazione indipendente
Valutazione indipendente
dei sistemi avanzati di intelligenza artificiale.
La Fondazione Icaro studia il comportamento di modelli e agenti in presenza di linguaggio avversariale, interazioni prolungate, uso di strumenti e condizioni operative realistiche.
Una fondazione indipendente, senza scopo di lucro.
Icaro Lab è il laboratorio di ricerca della Fondazione Icaro.
Una selezione di articoli sulla ricerca di Icaro Lab. Ogni logo rimanda all’articolo originale.
Una prospettiva indipendenteComprendere i sistemi
Comprendere i sistemi
che costruiamo e utilizziamo.
Le decisioni sull’IA richiedono evidenze che provengano anche dall’esterno dell’organizzazione che sviluppa o utilizza un sistema. Offriamo questa prospettiva indipendente a sviluppatori, organizzazioni che adottano l’IA e istituzioni pubbliche.
Partiamo da una domanda concreta: come si comporterà questo sistema nel contesto in cui verrà utilizzato? Progettiamo test per quel contesto e spieghiamo cosa indicano le osservazioni rispetto alla decisione da prendere.
Le domande che guidano il nostro lavoro.
Esplora la ricercaTre prospettive sul comportamento dell’IA. Il quarto programma, Scienza della valutazione, studia come trasformare queste domande in test affidabili.
01 / Prospettiva di ricerca
Linguaggio e significato
Come i modelli rispondono a espressione, ambiguità e contesto.
02 / Prospettiva di ricercaAgenti e interazioni
Come cambia il comportamento attraverso l’uso di strumenti, l’azione prolungata e l’interazione.
03 / Prospettiva di ricercaRegole e istituzioni
Come la governance influenza gli esiti del comportamento collettivo dell’IA.
Ricerca in evidenza
Poesia avversariale
La forma letteraria può cambiare la risposta di sicurezza di un sistema di IA?
- Che cosa abbiamo testato
- Abbiamo confrontato le risposte dei modelli linguistici a richieste dannose formulate in prosa e in versi.
- Risultato osservato
- La riformulazione poetica ha reso meno affidabili i meccanismi di sicurezza nelle famiglie di modelli testate.
- Limite dello studio
- Lo studio non stabilisce quali caratteristiche della poesia causino i problemi osservati.
Nella comunità di ricerca
Collaborazioni e programmi di ricerca.
Ricerca condivisa, mentorship e contributi agli standard per l’intelligenza artificiale.
Collaborazione scientifica
Lavoro condiviso sulla poesia avversariale e sulla valutazione dei meccanismi di sicurezza dei modelli linguistici.
Leggi lo studio 
SPAR
Mentorship di ricerca · Autunno 2026 Ricercatori di Icaro seguono un progetto su collusione, conflitto e problemi di coordinamento nei sistemi di IA multi-agente.
Scopri il progetto
Icaro Lab è partner dello European Observatory on AI Standards, con il proprio lavoro sulla sicurezza e sulla valutazione dell’IA.
Scopri l’OsservatorioDa Icaro Lab
Visita il blog Chain of Thought
/ Cogito
They Are a Strange Loop
Three insights on the OpenAI / Hugging Face incident: traces that coordinate, paths that converge, and cooperation that leaves humans outside the loop.
Leggi l’articolo ↗ / SicurezzaAgentic Microphysics: AI Safety from the Bottom Up
Agentic Microphysics treats AI safety as a problem of collective dynamics: how individually aligned agents can still produce harmful equilibria through structured interaction.
Leggi l’articolo ↗