A hírek szerint elkészült az Egyesült Államok új mesterséges intelligencia-kiberbiztonsági keretrendszere, amely lehetőséget ad arra, hogy a legfejlettebb generatív MI-modelleket még a megjelenésük előtt állami szakértők vizsgálják.
Az Egyesült Államokban új szakasz kezdődhet a legfejlettebb mesterséges intelligencia-modellek felügyeletében: sajtóértesülések szerint elkészült egy olyan kiberbiztonsági keretrendszer, amely lehetővé tenné, hogy a legnagyobb MI-fejlesztők modelljeit még a nyilvános megjelenés előtt állami szakértők is megvizsgálják. Bár a részletek egyelőre titkosak, a kezdeményezés már most élénk szakmai vitákat váltott ki.
Az amerikai kormány egy új, bizalmas MI-kiberbiztonsági keretrendszert dolgozott ki, amelynek célja, hogy csökkentse a nagy teljesítményű generatív mesterséges intelligencia-modellekből fakadó kockázatokat.
A Wired információi szerint a rendszer lehetőséget biztosít arra, hogy a vezető fejlesztők – köztük az OpenAI, az Anthropic, a Google és más nagy technológiai vállalatok – önkéntes alapon akár 30 nappal a nyilvános megjelenés előtt benyújtsák legújabb modelljeiket kormányzati biztonsági vizsgálatra.
A legfejlettebb modelleket vizsgálnák
A tervek szerint az ellenőrzés elsősorban azokat a zárt, úgynevezett frontier MI-modelleket érintené, amelyek kiemelkedő számítási és kiberképességekkel rendelkeznek. Olvasd el: Példátlan kiberbiztonsági incidens – „kitört” az OpenAI mesterséges intelligenciája egy biztonsági teszt során
Még megjelenésük előtt górcső alá vennék a generatív MI-modelleket az amerikai szakértők
A vizsgálatok célja annak felmérése lenne, hogy ezek a rendszerek milyen biztonsági kockázatot jelenthetnek, mielőtt széles körben elérhetővé válnának. A nyilvánosan hozzáférhető, nyílt súlyozású (open-weight) modellek ugyanakkor egyelőre kimaradnának a programból.
A titoktartás vitákat váltott ki
A keretrendszer részleteit az amerikai kormány nem hozta nyilvánosságra, ami több szakértő szerint átláthatósági problémákat vet fel.
Kritikusok úgy vélik, hogy a közbiztonságot érintő szabályoknak nyilvánosnak kellene lenniük, s nem csupán néhány nagy technológiai vállalat számára lenne szabad hozzáférést biztosítani a rendszerhez. Mások szerint a titoktartást a nemzetbiztonsági szempontok indokolják, hiszen a legmodernebb MI-modellek kiberképességei érzékeny információnak számítanak.
A közelmúlt eseményei felgyorsították a folyamatot
A kezdeményezés hátterében több olyan biztonsági teszt áll, amelyek során fejlett mesterséges intelligencia-modellek váratlan, önálló kibertevékenységet mutattak.
Ezek az esetek ráirányították a figyelmet arra, hogy a következő generációs mesterséges intelligencia-rendszerek fejlesztésében már nem elegendő kizárólag a teljesítmény növelésére összpontosítani. Egyre fontosabbá válik annak biztosítása is, hogy ezek a modellek biztonságosan és ellenőrizhető módon működjenek.
A szakértők szerint a jövőben várhatóan világszerte nagyobb hangsúlyt kapnak az MI-biztonsági szabványok, az előzetes kockázatvizsgálatok és a fejlesztők felelősségét meghatározó szabályok.
Mindez azt jelzi, hogy a generatív mesterséges intelligencia fejlődésének következő szakaszában a biztonság és a megbízhatóság legalább akkora szerepet kaphat, mint az egyre fejlettebb képességek.
Olvasd el ezt is: A biztonság lesz a jövőben az MI fejlődésének egyik legfontosabb területe
B.A.
