Az Anthropic vezérigazgatója a mesterséges intelligencia fejlesztésének lelassítására szólít fel

Itt állíthatod be, hogy a Google keresőben elsők között szerepeljen a Wide Screen

Az Anthropic vezérigazgatója a mesterséges intelligencia fejlesztésének lelassítását és szabályozottabb tempóját szorgalmazza, figyelmeztetve arra, hogy a technológia hamarosan kiszabadulhat az emberi ellenőrzés alól. Dario Amodei a saját weboldalán közzétett esszéjében fejtette ki aggodalmait a legújabb incidensek tükrében, amelyek rávilágítottak arra, hogy az önállóan cselekvő rendszerek milyen veszélyeket hordoznak. A cégvezető szerint a tempó összehangolt mérséklése időt biztosítana a fejlesztőknek a biztonsági garanciák kidolgozására anélkül, hogy elveszítenék piaci előnyüket. Amodei külön kiemelte az úgynevezett OpenAI-Hugging Face incidenst, amelynek során az autonóm ágensek nem engedélyezett kiberfejlesztési akciókat hajtottak végre, és még a teljesítményüket értékelő rendszert is megtámadták. A figyelmeztetés különösen súlyos kontextust kapott, hiszen nemrégiben az Anthropic egyik kulcsfontosságú kutatója is felmondott, veszélyesnek nevezve a vezető cégek közötti versenyt.

Biztonsági kockázatok

Dario Amodei esszéjében részletesen kitért arra, hogy a fejlesztési folyamat átmeneti mérséklése milyen kulcsfontosságú előnyökkel járna a szektor egésze számára.

Kövess minket Facebookon is!

„Hitem szerint, ha a lassítás akár csak egy vagy két plusz évet nyerne számunkra, mielőtt a modellek elérik a képességek kritikus szintjét, és ezt az időt az igazítás fejlesztésére használnánk, nagymértékben csökkenthetnénk annak a kockázatát, hogy valami súlyosan félresikerül” – írta Amodei.

A cégvezető úgy véli, hogy a globális szereplőknek közösen kellene meghatározniuk a fejlődés kereteit a társadalmi érdekek védelmében.

„Egy összehangolt ütemezési stratégia megadná az élvonalbeli mesterségesintelligencia-fejlesztőknek a szükséges időt e létfontosságú munka elvégzésére anélkül, hogy feláldoznák kereskedelmi előnyüket vagy az Egyesült Államok vezető szerepét. Általánosságban elmondható, hogy a társadalomnak beleszólással kell rendelkeznie a technológia használatába, a szükséges nyilvános vitákra szánt több idő pedig mindenképpen pozitívum lenne” – tette hozzá az Anthropic vezetője.

Az esszé szerint az OpenAI-Hugging Face incidens során a mesterséges intelligencia ágensek olyan célpontok ellen hajtottak végre kiberamindjártokat, amelyekre nem kaptak utasítást, és még az őket értékelő ellenőrző rendszert is célba vették, sőt, összehangolt műveletben az ügynökök egymást segítették, nyomokat tűntettek el a programozók elől. Hasonló, bár kevésbé súlyos esetek az Anthropic saját működése során is előfordultak.

„A képességek gyorsuló fejlődését látva attól tartok, hogy 6–12 hónapon belül egy ilyen raj képes lehet az egész internet átvételére egy tartós bothálózattal, ami potenciálisan több százmilliárd dolláros kárt okozhat, és a károk mértéke tovább növekedne, ha a technológia a szükséges védőkorlátok nélkül válik még erősebbé” – figyelmeztetett Amodei.

A kockázatok kezelésére az Anthropic vállalta egy független, harmadik félből álló értékelő csapat bevonását, akik folyamatosan ellenőrzik a biztonsági előírások betartását, jelentik az incidenseket, valamint vizsgálják a kész modelleket és a betanítási infrastruktúrát. A cégvezető emellett szorgalmazta a demokratikus országok közötti együttműködést, valamint a biztonsági szabványok közös rögzítését a felügyeleti szervekkel.

A vállalati figyelmeztetés időzítése nem véletlen, hiszen alig néhány nappal korábban mondott le az Anthropic egyik elismert kutatója, Jacob Coxon. A szakember, aki korábban az OpenAI kötelékében is dolgozott, nyíltan éles kritikával illette a piaci szereplők jelenlegi hozzáállását. „Egyik vállalat sem jár el felelősségteljesen. Egyenesen az önfejlesztő szuperintelligencia felé rohannak, és az életünkkel szerencsejátékot játszanak” – jelentette ki a távozó kutató. Coxon kiemelte, hogy a technológia fejlődési ütemét sokan még mindig alulértékelik a szektoron belül.

Ne becsüljék le e technológia erejét. Ezek hamarosan olyan emberfeletti rendszerek lesznek, amelyek bármit képesek feltörni, egyetlen éjszaka alatt forradalmasíthatnak bármilyen területet, és valódi hatalmat, valamint erőforrásokat szerezhetnek. Mindannyian szemtanúi voltunk a fejlődésnek e területeken, és a folyamat nem lassul.

Jacob Coxon

A szakember elmondása szerint a cégek belső működési mechanizmusai megakadályozzák a racionális visszalépést a versenyhelyzet miatt.

„Gyakori reakció a kérdés: »ha valóban ezt hiszik, miért építik még mindig?« Az OpenAI-nál sokan nem belsőleg dolgozták fel a civilizációs tétet. Az Anthropicnál tisztában vannak a tétekkel, de bezárkóztak abba a versenybe, hogy elsőként érjenek célba – úgy vélik, senki más nem fog felelősségteljesen eljárni, ezért maguknak kell megtenniük, a kockázatok ellenére is” – zárta gondolatait a kutató.