Már a mesterséges intelligencia fejleszti saját magát: Mikor ébred öntudatra az Anthropic Claude?

Itt állíthatod be, hogy a Google keresőben elsők között szerepeljen a Wide Screen

Az Anthropic legfrissebb közlése szerint a Claude mesterséges intelligencia (Artificial Intelligence) már a saját utódja kutatási meg fejlesztési feladatainak több mint egynegyedét végzi. Miközben világszerte egyre hevesebb viták övezik a technológia rohamos előretörését, a legfejlettebb modellek alkotói maguk is komoly aggályokat fogalmaznak meg a lehetséges kockázatokról. A vállalat háza táján egészen elképesztő ütemben zajlik a munka, hiszen alig néhány hónap leforgása alatt érték el ezt a meghatározó mérföldkövet. Ez a látványos ugrás tisztán jelzi, mennyire rohamléptekkel halad a világ az önfejlesztő rendszerek korszaka felé. A szektor mérnökei folyamatosan figyelik a folyamatokat, miközben próbálják megtalálni a tökéletes egyensúlyt a haladás meg a biztonság között. A fejlesztések iránya alapjaiban változtathatja meg mindazt, amit a szoftverfejlesztésről eddig gondoltunk.

Rohamos fejlődés

Lényegében arról van szó, hogy a Claude a saját utódját pofozgatja helyre és építi tovább. A The Washington Post beszámolója szerint mindössze néhány hónap kellett ahhoz, hogy a nulláról elérjék a 26 százalékos arányt. Ez a tempó tisztán mutatja, hogy milyen sebesen száguldunk az önfejlesztésre képes rendszerek korszaka felé. Dario Amodei, az Anthropic vezérigazgatója nemrégiben nyíltan megszólította a főbb riválisokat, felvetve a tempó visszavételét. A szakember szerint időt kell nyerni ahhoz, hogy felhúzhassák a megfelelő védvonalakat a technológia köré. A nyugati versenytársak zöme hajlana a megállapodásra, Donald Trump viszont keményen bírálta az ötletet, míg Peking szerint az egész felvetés csupán egy álcázott húzás, hogy keresztbe tegyenek Kínának.

Kövess minket Facebookon is!

Amodei – sok más elismert szakértővel egyetemben – arra figyelmeztetett, hogy a mesterséges intelligencia hamarosan eléri azt a szintet, ahol már emberi kéz nélkül is tudja tökéletesíteni önmagát. A cégvezető meglátása szerint a „rekurzív önfejlesztési folyamat” beindulásával az emberek számára igencsak feladná a leckét a rendszer megértése meg ellenőrzése. Az Anthropic egyelőre nem árulta el, mekkora esélyt lát erre a forgatókönyvre, azt viszont határozottan leszögezték: a Claude egyetlen részlete sem készül teljesen autonóm módon, emberi közreműködés nélkül.
A fejlesztési munkák felülvizsgálatakor a Claude az idő 26 százalékában tudta önállóan vinni a feladatokat úgy, hogy a mérnökök csupán megfigyelőként kísérték a folyamatot meg iránymutatást adtak. Ez a mutató még februárban is kerek nullán állt. Az Anthropic azt is közzétette, hogy csaknem 30 000 AI-ügynökük dolgozik a kutatási meg mérnöki projekteken, valamint a közelmúltban a fejlesztési számítási kapacitásuk hat százalékát irányították át a biztonsági garanciák megerősítésére.