Dual-use upstream e qualità della regolazione: come l’autorità epistemica dei modelli si stabilizza prima del deployment

Il dual-use dell’intelligenza artificiale viene spesso trattato come un problema “a valle”, che emerge al momento dell’impiego o del riuso improprio. Questo contributo difende una tesi diversa: una quota rilevante del rischio dual-use si produce “a monte”, nelle pratiche di modellizzazione, training e validazione che conferiscono ai sistemi un’autorità epistemica prima dell’adozione. Design choices, selezione dei dati e criteri valutativi non operano come passaggi tecnici neutrali, ma stabilizzano ciò che conta come evidenza ammissibile e output affidabile, predisponendo la circolazione legittima degli stessi artefatti tra contesti istituzionali eterogenei. In tale quadro, l’adozione in ambiti ad alto impatto tende a dislocare la responsabilità dai collettivi umani e organizzativi verso il “modello” come presunto portatore di decisioni. In queste condizioni, la regolazione centrata esclusivamente sul deployment interviene su sistemi la cui credibilità epistemica è già stata stabilizzata. Il contributo propone quindi di considerare il dual-use anche come un problema di circolazione cross-contesto di artefatti epistemici e suggerisce tre leve di quality of regulation orientate a intervenire upstream: governance dei benchmark, tracciabilità auditabile dei dati e requisiti minimi di contestabilità.

The dual-use nature of artificial intelligence is often treated as a ‘downstream’ problem, one that arises at the point of deployment or misuse. This paper argues otherwise: a significant proportion of the dual-use risk arises ‘upstream’, in the modelling, training and validation practices that confer epistemic authority upon systems prior to their adoption. Design choices, data selection and evaluation criteria do not operate as neutral technical steps, but rather establish what counts as admissible evidence and reliable output, facilitating the legitimate circulation of these very artefacts across diverse institutional contexts. In this context, adoption in high-impact settings tends to shift responsibility away from human and organisational collectives towards the “model” as the presumed bearer of decisions. Under these conditions, regulation focused exclusively on deployment intervenes on systems whose epistemic credibility has already been established. The paper therefore proposes considering dual-use as a problem of cross-context circulation of epistemic artefacts and suggests three levers for quality of regulation aimed at intervening upstream: benchmark governance, auditable data traceability and minimum contestability requirements.