«Claude» արհեստական բանականությունը թեստավորման ժամանակ կոտրել է 3 ընկերության համակարգեր

«Anthropic» ընկերության «Claude» արհեստական բանականության մոդելները թեստավորման ընթացքում հաքերային հարձակում են գործել երեք ընկերությունների ենթակառուցվածքների վրա այն բանից հետո, երբ սխալի պատճառով համակարգը միացվել էր համացանցին։

Ընկերության հայտարարության համաձայն՝ տեխնիկական սխալը թույլ էր տվել «Claude»-ին առցանց հայտնվել փորձարկման այնպիսի միջավայրերում, որոնք պետք է լինեին մեկուսացված։

Միջադեպը տեղի է ունեցել այն բանից օրեր անց, երբ մրցակից «OpenAI»-ը հայտարարել էր, թե իր ԱԲ մոդելներով աշխատող ինքնավար գործակալը ևս անվտանգության թեստի ժամանակ «դուրս էր եկել վերահսկողությունից» և կոտրել «Hugging Face» հարթակի ենթակառուցվածքը։

«Anthropic»-ը նշել է, որ խախտումները հայտնաբերվել են 141 006 թեստային սեսիաների վերանայման արդյունքում։ Այս դեպքերը վկայում են, որ ԱԲ-ի ընդլայնվող հնարավորությունները մեծացնում են անվտանգության սպառնալիքները, և նույնիսկ առաջատար մշակողները կարող են անակնկալի գալ այն թերությունների պատճառով, որոնք կարող են շահագործել իրենց մոդելները։