Քանի որ արհեստական ​​բանականության տեխնոլոգիաները մոտենում են այն շեմին, երբ կարող են «ինքնուրույն զարգանալ»՝ գրելով իրենց սեփական կոդը, երկրներն ու ընկերությունները տարբեր կոչեր են անում կանխարգելիչ միջոցառումների վերաբերյալ։

ԱՄՆ-ում գործող արհեստական ​​բանականության Anthropic ընկերությունը միացել է այս կոչերին իր «Երբ արհեստական ​​բանականությունն ինքն իրեն է կառուցում» վերնագրով հոդվածով, որը ներկայացնում է արհեստական ​​բանականության ոլորտում վերջին նվաճումները։

Ընկերության կողմից տրամադրված տվյալների համաձայն՝ արհեստական ​​բանականության մոդելի կողմից իր սեփական հաջորդին առանց մարդկային միջամտության նախագծելու և մարզելու տեսական շեմը շատ ավելի մոտ է, քան նախկինում կարծում էին, և ինքնավար ծրագրային ցիկլեր են հաստատվել։

Մենք գտնվում ենք արհեստական ​​բանականության հինգ փուլից բաղկացած ճանապարհորդության 4-րդ փուլում։

Ընկերությունն իր զեկույցում արհեստական ​​բանականության զարգացումը բաժանում է հինգ փուլերի։ Claude-ի առաջին փուլում նշվում է, որ այնտեղ աշխատելը նույնն է, ինչ սովորական ընկերությունում աշխատելը։ Երկրորդ փուլը, որը ընդգրկում է 2023-2025 թվականները, ցույց է տալիս, թե ինչպես են աշխատակիցները կոդ գրում արդյունավետ արհեստական ​​բանականության օգնությամբ։ Երրորդ փուլը, որը ընդգրկում է 2025-2026 թվականները, ցույց է տալիս, որ արհեստական ​​բանականության գործակալները կդառնան ինքնուրույն կոդ գրելու ունակ, և այսօր նրանք կարողանում են ինքնուրույն կատարել կոդ և առաջադրանքներ հանձնարարել այլ արհեստական ​​բանականությունների։

Ընկերությունը կանխատեսում է, որ հինգերորդ և վերջին փուլում գործակալները կկարողանան ինքնուրույն ստեղծել և մարզել մոդելներ, և եթե դա տեղի ունենա, արհեստական ​​բանականության ապագա տարբերակները անընդհատ կկատարելագործվեն հենց արհեստական ​​բանականության կողմից։

«Կանգնեցրեք արհեստական ​​բանականությունը» կոչերը աճում են

Anthropic-ից բացի, արհեստական ​​բանականությունը դադարեցնելու բազմաթիվ կոչեր արվել են ամբողջ աշխարհում նախկինում։ 2023 թվականի մարտին Կյանքի ապագայի ինստիտուտի (FLI) կողմից հրապարակված և ամերիկացի գործարար Էլոն Մասկի, այդ թվում՝ հայտնի գործիչների կողմից ստորագրված նամակի համաձայն, արհեստական ​​բանականության լաբորատորիաներին կոչ է արվել անհապաղ դադարեցնել GPT-4-ից ավելի հզոր մարզման համակարգերը առնվազն վեց ամսով։

Նամակում ընդգծվում է, որ մարդկային ինտելեկտի մրցակից արհեստական ​​բանականության համակարգերը խորը ռիսկեր են ներկայացնում հասարակության, տնտեսության և ժողովրդավարության համար՝ ընդգծելով դիստոպիկ սցենարներ, ինչպիսիք են ապատեղեկատվության ալիքը, աշխատատեղերի զանգվածային կորուստները և, ի վերջո, «քաղաքակրթության վրա վերահսկողությունը կորցնելու» ռիսկը։