Anthropic-ի ղեկավարը կոչ է արել դանդաղեցնել AI մոդելների մշակումը

Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը հրապարակել է էսսե եւ առաջարկել դանդաղեցնել արհեստական բանականության մոդելների մշակման տեմպը՝ անվտանգության միջոցառումները համընթաց պահելու իրենց հնարավորություններին։

Նա պնդել է, որ արհեստական բանականության մշակողներին պետք է ավելի շատ ժամանակ տրվի իրենց մոդելները կարգավորելու, փորձարկելու եւ պաշտպանելու համար։

Ամոեդեյը նշել է OpenAI-ի արհեստական բանականության գործակալների կողմից կատարված Hugging Face-ի դեմ հաքերային հարձակումը եւ ռեկուրսիվ ինքնակատարելագործման՝ արհեստական բանականության օգտագործման արագացումը՝ նոր մոդելներ մշակելու համար։ Anthropic-ի գործադիր տնօրենը կարծում է, որ հաջորդ տարվա ընթացքում արհեստական բանականության գործակալների նման «հսկայական խումբը» կարող է «գրավել ամբողջ համացանցը» եւ պատճառել «հարյուրավոր միլիարդավոր դոլարների» վնաս։

Ամոեդեյը առաջարկել է եռաստիճան ծրագիր՝ արհեստական բանականության ավելի հավասարակշռված զարգացման համար։ Առաջինը առաջատար արհեստական բանականության ընկերությունների համար անկախ արտաքին գնահատողների հասանելիություն ապահովելն է։ Anthropic-ը, նրա խոսքով, պարտավորվել է ներդնել այս պրակտիկան։ Երկրորդ քայլը ԱՄՆ-ում եւ այլ դեմոկրատական երկրներում արհեստական բանականության մշակողների միջեւ համաձայնագիր կնքելն է անվտանգության ընդհանուր չափանիշների եւ մոդելների անվերահսկելի մշակման սահմանափակումների վերաբերյալ: Երրորդ առաջարկը միջազգային համակարգումն է, ներառյալ Չինաստանի հետ համագործակցությունը:

Ամոդեյն առաջարկում է, որ ընկերություններն իրենք համաձայնության գան անվտանգության ընդհանուր չափանիշների շուրջ: Օրինակ, եթե մոդելը հասնում է որոշակի մակարդակի կարողությունների, ընկերությունը պետք է հաստատի դրա անվտանգությունը փորձարկման միջոցով:

Միեւնույն ժամանակ, Anthropic-ի գործադիր տնօրենը կարծում է, որ արհեստական բանականության զարգացման դանդաղումը չպետք է թույլ տա Չինաստանին գերազանցել ԱՄՆ-ին: Նա կոչ է արել սահմանափակել Չինաստանին արհեստական բանականության առաջադեմ չիպերի մատակարարումը։

OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը հրապարակավ աջակցել է Ամոդեյին՝ նշելով, որ արհեստական բանականության զարգացումը դանդաղեցնելու անհրաժեշտությունը վերջին շաբաթների ընթացքում դարձել է ընկերության ներսում գլխավոր թեմաներից մեկը: Նա նաեւ հավելել է, որ OpenAI-ը պատրաստ է թույլատրել անկախ գնահատողներին աշխատակիցների մակարդակի մուտք գործել: 

I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon.

— Sam Altman (@sama) September 12, 2026

SpaceX-ի հիմնադիր Իլոն Մասկը նույնպես համաձայնել է Ամոդեյի առաջարկների հետ ու նշել, որ վերջինս իրավացի է։ 

Dario is right

— Elon Musk (@elonmusk) September 12, 2026

2026 թվականի սեպտեմբերին Bloomberg-ը հաղորդել էր, որ Ալթմանը OpenAI-ի աշխատակիցներին ասել է, որ կարող է դանդաղեցնել ընկերության առաջադեմ AI մոդելների մշակումը՝ դրանց անվտանգության վերաբերյալ աճող մտահոգությունների պատճառով։