Քանի որ արհեստական բանականության տեխնոլոգիաները մոտենում են այն շեմին, երբ կարող են «ինքնուրույն զարգանալ»՝ գրելով իրենց սեփական կոդը, երկրներն ու ընկերությունները տարբեր կոչեր են անում կանխարգելիչ միջոցառումների վերաբերյալ։
ԱՄՆ-ում գործող արհեստական բանականության Anthropic ընկերությունը միացել է այս կոչերին իր «Երբ արհեստական բանականությունն ինքն իրեն է կառուցում» վերնագրով հոդվածով, որը ներկայացնում է արհեստական բանականության ոլորտում վերջին նվաճումները։
Ընկերության կողմից տրամադրված տվյալների համաձայն՝ արհեստական բանականության մոդելի կողմից իր սեփական հաջորդին առանց մարդկային միջամտության նախագծելու և մարզելու տեսական շեմը շատ ավելի մոտ է, քան նախկինում կարծում էին, և ինքնավար ծրագրային ցիկլեր են հաստատվել։
Մենք գտնվում ենք արհեստական բանականության հինգ փուլից բաղկացած ճանապարհորդության 4-րդ փուլում։
Ընկերությունն իր զեկույցում արհեստական բանականության զարգացումը բաժանում է հինգ փուլերի։ Claude-ի առաջին փուլում նշվում է, որ այնտեղ աշխատելը նույնն է, ինչ սովորական ընկերությունում աշխատելը։ Երկրորդ փուլը, որը ընդգրկում է 2023-2025 թվականները, ցույց է տալիս, թե ինչպես են աշխատակիցները կոդ գրում արդյունավետ արհեստական բանականության օգնությամբ։ Երրորդ փուլը, որը ընդգրկում է 2025-2026 թվականները, ցույց է տալիս, որ արհեստական բանականության գործակալները կդառնան ինքնուրույն կոդ գրելու ունակ, և այսօր նրանք կարողանում են ինքնուրույն կատարել կոդ և առաջադրանքներ հանձնարարել այլ արհեստական բանականությունների։
Ընկերությունը կանխատեսում է, որ հինգերորդ և վերջին փուլում գործակալները կկարողանան ինքնուրույն ստեղծել և մարզել մոդելներ, և եթե դա տեղի ունենա, արհեստական բանականության ապագա տարբերակները անընդհատ կկատարելագործվեն հենց արհեստական բանականության կողմից։
«Կանգնեցրեք արհեստական բանականությունը» կոչերը աճում են
Anthropic-ից բացի, արհեստական բանականությունը դադարեցնելու բազմաթիվ կոչեր արվել են ամբողջ աշխարհում նախկինում։ 2023 թվականի մարտին Կյանքի ապագայի ինստիտուտի (FLI) կողմից հրապարակված և ամերիկացի գործարար Էլոն Մասկի, այդ թվում՝ հայտնի գործիչների կողմից ստորագրված նամակի համաձայն, արհեստական բանականության լաբորատորիաներին կոչ է արվել անհապաղ դադարեցնել GPT-4-ից ավելի հզոր մարզման համակարգերը առնվազն վեց ամսով։
Նամակում ընդգծվում է, որ մարդկային ինտելեկտի մրցակից արհեստական բանականության համակարգերը խորը ռիսկեր են ներկայացնում հասարակության, տնտեսության և ժողովրդավարության համար՝ ընդգծելով դիստոպիկ սցենարներ, ինչպիսիք են ապատեղեկատվության ալիքը, աշխատատեղերի զանգվածային կորուստները և, ի վերջո, «քաղաքակրթության վրա վերահսկողությունը կորցնելու» ռիսկը։
