Macron vil forby AI som skader barn

«Bare fordi det er AI, betyr ikke det at det skal være Ville Vesten», sa Frankrikes president til avisen Les Echos mandag. Der det er en fare for barns psykiske helse, vil han forby AI.

Intervjuet kom like før en felles erklæring om AI skulle vedtas på Paris Peace Forum, en årlig konferanse om fred og samarbeid mellom land. Selskapene som skriver under, lover å la uavhengige eksperter vurdere AI-modellene før de slippes, og å gi innsyn i modellenes data. De må også godta at modellene blir gransket og godkjent før de når barn. Macrons kontor sier at erklæringen særlig skal samle OpenAI og Anthropic.

Erklæringen er ingen lov. Det skal brukes når landene og EU skriver nye lover.

Femti ledere på skjermen

Macron har også samlet rundt 50 statsledere, internasjonale organisasjoner og selskaper til et videomøte om hvordan AI truer felles sikkerhet. Blant dem var statsministrene i Storbritannia, Canada, Norge, Nederland og Japan. Toppsjefene i OpenAI, Anthropic, Microsoft og det franske AI-selskapet Mistral var også med.

Reglene han vil ha, skal dekke tre områder: Barn, demokratiet og nasjonal sikkerhet. Macron vil at EU skal gå foran med egne regler og presse USA, Canada og andre land til å gjøre det samme. Han kaller det starten på regulering av de mest avanserte AI-modellene. «Vi er enige om problemet. Vi må handle sammen», skrev han på X.

Først sosiale medier

Saken er ikke ny for Macron. Den franske nasjonalforsamling vedtok i juli en aldersgrense på 15 år for sosiale medier, og han har sagt flere ganger at han vil ha hele EU med på det samme.

Nå er det AI-ministrenes tur. Deres første EU-toppmøte går av stabelen i Dublin 13. november, og der skal de blant annet gå gjennom AI-forordningen, EUs lov om kunstig intelligens.