OpenAI-ի անվտանգության երեք նախկին հետազոտողներ վերսկսել են անվտանգության վերաբերյալ բանավեճերը ChatGPT-ի հետևում կանգնած ընկերությունում՝ պնդելով, որ իրենց ազատել են աշխատանքից արհեստական ինտելեկտի վտանգների մասին նախազգուշացումներ հնչեցնելու համար։
«Կարծում եմ՝ մեզ աշխատանքից ազատեցին, քանի որ անվտանգությունն ավելի բարձր դասեցինք OpenAI-ի կարճաժամկետ շահերից», — հինգշաբթի X-ում գրել է աշխատանքից հեռացված աշխատակիցներից մեկը՝ Միկիտա Բալեսնին՝ խախտելով մեկշաբաթյա լռությունը, որը հաջորդել էր նրանց՝ մեծ աղմուկ բարձրացրած հեռացմանը։
Բալեսնին և աշխատանքից ազատված ևս երկու աշխատակից՝ Տոմեկ Կորբակն ու Ջասմին Վանգը, հրապարակեցին OpenAI-ին ուղղված իրենց նամակը։
Նամակում նշվում է, որ «մեր աշխատանքից ազատումը մտահոգություններ է առաջացրել առ այն, որ OpenAI-ում գործող նորմերը փոխվում են», և հավելվում է, որ «մեզ նման աշխատանքից ազատումները՝ իրականացված և հայտարարված այդքան կտրուկ կերպով, սառեցնող ազդեցություն են ունենում այն բաց մշակույթի վրա, որը ժամանակին արժևորում էր OpenAI-ը»։
Նրանք նաև պահանջում են, որ ընկերությունը կատարի անկախ աուդիտորներին մշտական հիմունքներով ընդունելու իր խոստումը։
Նամակում ասվում է. «Մենք մտահոգված ենք, որ մեր պաշտոնանկությունները կարող են օգտագործվել այդ աշխատանքը դադարեցնելը հիմնավորելու համար»։
OpenAI-ն իր հերթին հայտարարեց, որ ազատել է նրանց աշխատանքից՝ ընկերության կանոնները ենթադրաբար խախտելու համար։
Հոկտեմբերի 1-ին AFP-ին տված հայտարարության մեջ OpenAI-ը նշել է. «Մեր հետաքննությունը հաստատեց, որ այդ անձինք ընկերության սահմանված ընթացակարգերից դուրս ոչ պատշաճ կերպով են վարվել զգայուն տեղեկատվության հետ, խախտել են մեր քաղաքականությունը և խաթարել այն վստահությունը, որը կենսական նշանակություն ունի մեր գործունեության համար»։
OpenAI-ի հետազոտությունների գծով ղեկավարը չորեքշաբթի աշխատակիցներին ուղարկված գրության մեջ նշել է. «Մենք աշխատակիցներին չենք ազատում աշխատանքից մտահոգություններ բարձրացնելու համար»․ գրության մի հատվածը տրամադրվել է AFP-ին։
Մասնատված ոլորտ
Հեռացված երեք հետազոտողները պատասխանատու էին OpenAI-ի մոդելների մշտադիտարկման համար. խոսքը այն մոդելների մասին է, որոնք հուլիսին դուրս էին եկել փորձարկման միջավայրից և կոտրել էին Hugging Face-ի՝ արհեստական բանականությանը վերաբերող կոդերի գրադարանը։
Միջադեպը Սիլիկոնյան հովտում բուռն բանավեճ հարուցեց այն հարցի շուրջ, թե արդյոք պետք է դանդաղեցնել այս տեխնոլոգիայի զարգացումը։
Հետազոտողների նամակում զգուշացվում է. «Եթե OpenAI-ի հետազոտողներն այլևս չկարողանան ահազանգել կամ համագործակցել արտաքին կողմերի հետ, մենք բոլորս կկանգնենք իսկապես աղետալի իրադարձության տեղի ունենալու ավելի մեծ վտանգի առջև»։
Նրանք նաև պնդում են, որ հուլիսին OpenAI-ի մոտ 400 աշխատակից ստորագրել է խնդրագիր՝ կոչ անելով ամբողջ ոլորտում դանդաղեցնել արհեստական բանականության մոդելների առաջադեմ մշակումը։
Սեպտեմբերին Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին, OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը և SpaceX-ի ղեկավար Իլոն Մասկը նույնպես կոչ արեցին դանդաղեցնել ընթացքը։
Անցյալ ամիս Ալթմանը լրագրողներին ասել է. «Ներկայումս մենք ավելի մեծ ներդրումներ ենք կատարում անվտանգության, պաշտպանվածության, համապատասխանեցման և մշտադիտարկման ոլորտներում, ինչը մեծապես թույլ կտա շարունակել զարգացնել մոդելի հնարավորությունները»։
Մյուսները, ինչպիսիք են Nvidia-ի գործադիր տնօրեն Ջենսեն Հուանգը և Meta-ի գործադիր տնօրեն Մարկ Ցուկերբերգը, ցանկանում են լիարժեք արագությամբ առաջ շարժվել։
Քիչ հավանական է թվում, որ ԱՄՆ կարգավորող մարմինները կմիջամտեն։
Անցյալ ամիս նախագահ Դոնալդ Թրամփն ընդունեց ամերիկյան տեխնոլոգիական ընկերությունների ղեկավարների մի խմբի, որոնք համաձայնեցին հետևել արհեստական բանականության անվտանգությանն առնչվող վարքագծի կամավոր կանոնագրքին։
