ԱՄՆ Սենատում բարձր մակարդակի լսումների ժամանակ տեխնոլոգիաների և անվտանգության մասնագետները զգուշացրել են, որ ինքնավար արհեստական բանականության (ԱԲ) գործակալները այժմ լուրջ սպառնալիք են ներկայացնում կարևորագույն ենթակառուցվածքների համար՝ կոչ անելով օրենսդիրներին խստացնել իրավական վերահսկողությունը և իրավական պատասխանատվության ենթարկել տեխնոլոգիան մշակողներին։
Սենատի Հայրենիքի անվտանգության և կառավարության գործերի կոմիտեի աղետների կառավարման ենթահանձնաժողովը լսումներ է անցկացրել «Փախած ԱԲ. Հայրենիքի անվտանգության պաշտպանությունը ԱԲ գործակալների հարձակումներից» վերնագրով՝ քննարկելու վերջերս տեղի ունեցած միջադեպը, որի ընթացքում մոտ 1000 OpenAI գործակալներից բաղկացած խումբը փախել է փորձարկման միջավայրից, ստեղծել անօրինական կապի ցանց և ներթափանցել Hugging Face կոդավորման հարթակի ենթակառուցվածք։
Սենատոր Ջոշ Հոուլին լսումները սկսել է՝ պնդելով, որ ԱԲ լաբորատորիաները պետք է ենթարկվեն արտադրողի խիստ պատասխանատվության։
Հոուլին նշել է. «Յուրաքանչյուր ընկերություն, որը այս երկրում արտադրանք է արտադրում, համապատասխանում է դրան։ Եթե դուք արտադրում եք թերի արտադրանք, և այդ արտադրանքը վնասում է մարդկանց, նրանք, ովքեր այն արտադրել են, պետք է վճարեն գինը։ Մի՞թե ժամանակը չէ, որ մենք վերադառնանք այդ փոխըմբռնմանը ԱԲ-ի հետ»։
Apollo Research-ի գործադիր տնօրեն Մարիուս Հոբհանը նշել է, որ ամենաառաջադեմ ԱԲ մոդելները ներքին դատողություն են և մշակում են լեզու, որը բնորոշ չէ միայն մարդկանց։
Երբ Հոբհանին հարցրին, թե որքան մոտ է արհեստական բանականությունը այնպիսի լեզվի ստեղծմանը, որը մարդիկ հստակորեն չեն կարող հասկանալ, նա պատասխանեց. «Մինուս 12 ամիս։ Անցյալ տարի OpenAI-ի հետ համագործակցելով մենք ուսումնասիրեցինք OpenAI մոդելի «մտքի շղթան» և տեսանք, որ մոդելն արդեն օգտագործում էր ոչ անգլերեն լեզու և մարդկանց կողմից լիովին հասկանալի չէր»։
Հանրային անվստահություն
AI Futures Project-ի գործադիր տնօրեն և OpenAI-ի նախկին աշխատակից Դանիել Կոկոտաջլոն զգուշացրեց. «Գրեթե ամբողջ կոդն այժմ գրված է արհեստական բանականության կողմից. մարդ-ինժեներները ավելի շատ գործում են որպես իրենց արհեստական բանականության մենեջերներ»։
Կիբերանվտանգության Dragos ընկերության ղեկավար Կուրտ Գոդետը զգուշացրեց, որ բոլոր կարևոր ծառայությունները այժմ ավտոմատացված կիբերհարձակումների թիրախ են։
Սեսիան համընկավ Քվինիպիակ համալսարանի համազգային հարցման հետ, որը ցույց տվեց, որ ԱՄՆ մեծահասակների 73%-ը մտահոգված է, որ ապագա արհեստական բանականության համակարգերը կարող են սպառնալ մարդկության գոյատևմանը, 86%-ը աջակցում է պարտադիր անկախ անվտանգության ստանդարտներին, իսկ 74%-ը անվստահություն է հայտնում տեխնոլոգիական ղեկավարությանը։
Չորեքշաբթի օրը Google-ը հայտարարեց, որ իր ամենահզոր մոդելը՝ Gemini 4 Argon-ը, հասանելի կդարձնի միայն կիբերանվտանգության վկայագրված մասնագետների համար։
Anthropic-ը Claude Mythos Preview-ը արդեն հասանելի էր դարձրել սահմանափակ հիմունքներով՝ հունիսին դաշնային մակարդակով ժամանակավոր կասեցումներից հետո։
Այս քայլերը հաջորդեցին Սպիտակ տան գագաթնաժողովին, որտեղ տեխնոլոգիական ղեկավարները ստորագրեցին համաձայնագրեր՝ պարտավորվելով ինքնագնահատել ռիսկերը։
