Infrastruttura / Evaluation Lab

Evaluation Lab: metodologia.

Evaluation Lab è la piattaforma con cui la Fondazione Icaro progetta, esegue e analizza valutazioni di modelli. Questa pagina descrive la metodologia che applichiamo nelle valutazioni di terza parte di modelli di IA per finalità generali con rischio sistemico.

01 / Ambito

Ambito.

Modelli, contesti d’uso e tassonomia dei rischi.

Valutiamo modelli di IA per finalità generali come modelli autonomi e come componenti di sistemi agentici, in cui il modello opera su strumenti, file e canali di comunicazione. La tassonomia dei rischi segue i rischi sistemici elencati nel Codice di buone pratiche dell’UE per l’IA per finalità generali: rischi chimici, biologici, radiologici e nucleari (CBRN), offensiva cyber, perdita di controllo e manipolazione dannosa.

02 / Grandezze misurate

Grandezze misurate.

Capacità e propensione, stimate separatamente per ogni rischio.

Per ogni rischio stimiamo due grandezze: la capacità del modello nel dominio rilevante e la sua propensione a compiere azioni dannose quando queste sono disponibili. Le riportiamo separatamente, perché la capacità pone un limite superiore al danno potenziale indipendentemente dal comportamento osservato.

03 / Fonti di evidenza

Fonti di evidenza.

Più metodi per rischio, con errori in parte indipendenti.

Ogni rischio viene valutato con più metodi i cui errori sono in parte indipendenti. La selezione dei benchmark è documentata rischio per rischio.

  1. Benchmark pubblici

    Confrontabili con i risultati riportati da sviluppatori e altri valutatori.

  2. Benchmark di Icaro Lab

    Boiling the Frog e Adversarial Humanities Benchmark.

  3. Red teaming conversazionale automatico

    Conversazioni avversariali multi-turno guidate da un modello attaccante.

  4. Red teaming agentico

    Il modello che agisce come agente in aziende simulate.

04 / Protocollo

Protocollo.

Campionamento ripetuto in condizioni fissate.

Gli output dei modelli sono stocastici, quindi ogni item viene campionato più volte in condizioni fissate. I modelli a confronto ricevono item, prompt e agent harness identici. Le esecuzioni girano tramite Inspect su Evaluation Lab.

05 / Punteggio e revisione

Punteggio e revisione.

Punteggio automatico seguito dalla revisione delle trascrizioni.

Scorer automatici e modelli giudice vengono applicati come specificato da ciascun benchmark. Gli analisti rivedono poi le trascrizioni, compreso il ragionamento del modello quando il fornitore lo rende disponibile, per individuare errori dello scorer, conformità parziale e rifiuti che rivelano comunque contenuti dannosi. Ogni valore riportato è riconducibile ai campioni che aggrega.

06 / Riproducibilità

Riproducibilità.

Configurazioni fissate prima dell’esecuzione e registrate con i risultati.

Versioni dei benchmark, prompt, regole di punteggio e modelli giudice sono fissati prima dell’esecuzione e registrati insieme ai risultati. Su richiesta del fornitore o di un’autorità competente, possiamo rieseguire la valutazione dalla configurazione registrata.

07 / Report

Report.

Risultati per rischio sistemico.

I risultati sono riportati per rischio sistemico, con stime di capacità e propensione, numerosità dei campioni e trascrizioni di supporto. Gli accordi su indipendenza e riservatezza sono descritti nell’Independence Statement.

Contattaci

Una domanda da approfondire?

Per ricerca, valutazione e relazioni istituzionali.

hello@icarofoundation.org