«Այս մակարդակի հնարավորություններով անվտանգությունը պետք է լինի մեր գերակա խնդիրը», - հինգշաբթի լրագրողներին ասաց OpenAI-ի գործադիր տնօրեն Գրեգ Բրոքմանը Astra-ի, որը հայտնի է նաև որպես GPT-6, ներդրման վերաբերյալ։
Մեկ տարուց մի փոքր ավելի է անցել, ինչ OpenAI-ը թողարկել է իր առաջատար մոդելը՝ GPT-5-ը։
Այդ ժամանակվանից ի վեր, առաջադեմ մոդելների հնարավորությունների վերաբերյալ մտահոգությունները մեծացել են OpenAI-ի և մրցակից մշակող Anthropic-ի կողմից ստեղծված համակարգերի հետ կապված միջադեպերից հետո։
OpenAI-ը երկու շաբաթով դադարեցրել է որոշ մոդելների մշակումը, այն բանից հետո, երբ այս ամռանը փորձարկված երկու մոդելներ ներգրավվել են իր Hugging Face արհեստական բանականության հարթակի անվտանգության խախտման մեջ։
Սան Ֆրանցիսկոյում գտնվող ընկերությունը հայտարարել է, որ Astra-ն մշակվել է ավելի ուժեղ պաշտպանական միջոցառումներով այդ միջադեպից հետո, սակայն Astra-ն ինքը չի մասնակցել հարձակմանը։
Ընկերությունը հայտարարել է, որ կիբերանվտանգության որոշ հաճախորդներ հինգշաբթի օրը կստանան նոր մոդելի հասանելիություն, որին կհաջորդի այլ վճարովի հաճախորդների համար ավելի լայն տարածում։ Անվճար կամ ամենաէժան վճարովի պլանի օգտատերերը չեն ունենա հասանելիություն։
Բլոգում OpenAI-ը նշել է, որ Astra-ն կարող է ինքնուրույն կատարել «ձանձրալի» համակարգչային առաջադրանքների լայն շրջանակ, ներառյալ կայքերի ստեղծում, գիտական վերլուծություն, խաղերի մշակում, կիբերանվտանգություն և կոդավորում։
Astra-ի միջոցով ինքնավար արհեստական ինտելեկտի գործակալներ ստեղծելու ժամանակի խնայողությունը ցույց տալու համար ընկերությունը նշել է, որ մոդելը կարող է բնակարան փնտրելու համար անհրաժեշտ ժամանակը վեց ժամից կրճատել մինչև 10 րոպեից պակաս։
«Հիմնական է մտածել, որ մենք հիմա գտնվում ենք AGI դարաշրջանում։ Այստեղ AGI-ն սահմանվում է որպես հիպոթետիկ փուլ, որտեղ արհեստական ինտելեկտի համակարգերը համապատասխանում են մարդկային ինտելեկտին առաջադրանքների մեծ մասում», - հարցազրույցում ասաց Բրոքմանը։
OpenAI-ը նախկինում համաձայնագիր ուներ Microsoft-ի հետ, որը իր ամենավաղ և ամենամեծ ներդրողներից մեկն էր, որ արտոնությունների կետը կդադարի գործել, երբ OpenAI-ը հասնի AGI-ին։ Այս պայմանները չեղարկվեցին ապրիլին։
Սահմանափակ պատուհան
OpenAI-ի գլխավոր գիտնական Յակուբ Պաչոկին ընդունեց, որ դեռևս անորոշություն կա այն մասին, թե ինչպես կվարվի նոր մոդելը թողարկումից հետո։
«Մոդելը կարող է շատ լավ դառնալ նպատակին հասնելու հարցում և միևնույն ժամանակ վարվել այնպես, որ հակասի մարդու մտադրություններին։ Մենք պետք է պատրաստ լինենք դանդաղեցնել մասշտաբավորումը կամ դադարեցնել հետագա մասշտաբավորումը, երբ մեր վստահությունը անվտանգության նկատմամբ բավարար », - ասաց Պաչոկին նույն հարցազրույցում։
OpenAI-ը, Anthropic-ը և ավելի քան 100 այլ կազմակերպություններ անցյալ շաբաթ ստորագրեցին բաց նամակ, որում կոչ էին անում համակարգված համաշխարհային արձագանքել արհեստական բանականության հետ կապված կիբերանվտանգության ռիսկերին և զգուշացնում, որ կիբերպաշտպանությունը ամրապնդելու պատուհանը սահմանափակ է։
Anthropic-ը երկուշաբթի օրը ավելի հեռու գնաց՝ կոչ անելով ամբողջ արդյունաբերության համակարգման անվտանգության և ավելի ու ավելի կարող մոդելների մշակման տեմպի վերաբերյալ։
«Ես կարծում եմ, որ այժմ պետք է առաջնահերթություն տրվի ընդհանուր անվտանգության չափանիշներին և առաջադեմ արհեստական բանականության զարգացման միջազգային համակարգմանը», - հինգշաբթի ասաց OpenIA-ի Պաչոկին։
Անցյալ շաբաթ ԱՄՆ Ալաբամա նահանգը հետաքննություն սկսեց OpenAI-ի նկատմամբ՝ կապված Hugging Face-ի հաքերային հարձակման հետ։ Գրասենյակը նշեց լիարժեք վերահսկողության և համարժեք պաշտպանիչ միջոցառումների բացակայությունը։
