MI5 deschide un centru dedicat evaluării amenințărilor AI

Ce a decis MI5?

London, 13 octombrie 2024 – Sir Ken McCallum, directorul general al MI5, a anunțat în cadrul brief-ului său anual de amenințări că va fi creat un nou centru de evaluare a amenințărilor AI. Decizia vine în contextul avertismentului că inteligența artificială ar putea fi folosită de actori ostili pentru a pătrunde și a depăși măsurile de securitate tradiționale.

McCallum a descris AI ca un actor mai inteligent decât noi, capabil să ne depășească în El a precizat că centrul va monitoriza, analiza și contracara utilizarea abuzivă a instrumentelor generative AI de către criminali, grupuri extremiste și servicii de informații străine. Decizia urmează unui briefing recent al OpenAI în Parlament, care a avertizat că frecvența incidentelor legate de AI ar putea crește semnificativ.

Centrul de Evaluare a Amenințărilor AI va reuni experți în securitate cibernetică, știință a datelor și analiză comportamentală.

Prima sa sarcină este să cartografieze peisajul amenințărilor generate de AI, de la propagandă deep‑fake la campanii de phishing automate care pot personaliza mesajele la scară largă.

Ce face nouul centru de evaluare a amenințărilor AI?

Prin agregarea informațiilor din rețelele existente ale MI5 și colaborarea cu aliați precum GCHQ și NSA, AITA își propune să furnizeze alerte în timp real partenerilor de aplicare a legii.

McCallum a subliniat că centrul nu va reacționa doar la incidente, ci și le va anticipa. „Trebuie să trecem de la o postură de reacție la una de predicție”, a spus el.

Agenția intenționează să dezvolte algoritmi de detectare personalizați care pot semnala conținut generat de AI înainte să se răspândească și să colaboreze cu firmele de tehnologie pentru divulgarea responsabilă a vulnerabilităților.

Specialiștii susțin că modelele lingvistice sofisticate ar putea transforma spionajul. Spre deosebire de instrumentele tradiționale de hacking, AI poate genera comunicări convingătoare, imita vocea și chiar redacta documente strategice, făcând dificilă distincția între informația autentică și cea fabricată.

Un studiu recent al Royal United Services Institute a avertizat că actorii de stat ar putea folosi AI pentru campanii de dezinformare la o viteză fără precedent.

AI va deveni frontul de luptă în spionaj?

Îngrijorarea nu este doar teoretică. Testimoniale recente ale OpenAI în fața parlamentului au evidențiat mai multe situații în care texte generate de AI au încercat să păcălească oficialii.

Deși nu s-au confirmat breșe majore, potențialul AI de a amplifica amenințările existente a determinat MI5 să acționeze rapid.

Privind înainte, crearea AITA semnalează o schimbare mai amplă în strategia de securitate națională.

Pe măsură ce tehnologiile AI devin mai accesibile, linia dintre aplicațiile civile și militare se estompează, necesitând o reacție coordonată între guvern, industrie și mediul academic.

McCallum a concluzionat că „vigilența noastră trebuie să evolueze în pas cu instrumentele pe care adversarii le folosesc”.

Ai întrebări frecvente despre decizia MI5!

Ce tipuri de amenințări AI va aborda AITA? AITA se va concentra pe utilizările malitioase ale AI generativ, inclusiv deep‑fakes, phishing automatizat, dezinformare AI‑driven și instrumente care facilitează intruziuni cibernetice.

Cum va colabora MI5 cu firmele de tehnologie private?

Centrul va stabili canale de legătură cu principalii dezvoltatori AI pentru a partaja informații de amenințare, a coordona divulgarea vulnerabilităților și a dezvolta strategii de mitigare comune.

Publicul va fi informat despre incidentele de securitate legate de AI? MI5 intenționează să emită briefări periodice publice privind amenințările majore de AI, echilibrând transparența cu necesitatea protejării detaliilor operaționale.