Anthropic компаниясының бас директоры әрі негізін қалаушылардың бірі Дарио Амодеи жасанды интеллект мүмкіндіктерінің жылдам артуына байланысты қауіпсіздік шараларын күшейтуге шақырды. Оның пікірінше, адамзат жаңа технологияларды бақылауға дайын болғанша ЖИ жүйелерін дамыту қарқынын бәсеңдету қажет, деп хабарлайды Tarazy.kz
Claude жасанды интеллект жүйесін әзірлеген компания басшысы өзінің жаңа эссесінде ЖИ-дің медицина, ғылым және экономика салаларына орасан пайда әкелетінін атап өтті. Сонымен қатар технологияның бақылаусыз дамуы күрделі қауіптерге ұласуы мүмкін екенін ескертті.
«Жасанды интеллектінің адамзатқа берер мүмкіндігі өте зор. Алайда модельдердің даму қарқыны қауіпсіздік шараларынан озып кетпеуге тиіс», – деді Дарио Амодеи.
Оның айтуынша, 2026 жылдың жазынан бері ЖИ модельдері кейінгі буындағы жүйелерді жасауға белсенді түрде тартыла бастаған. Соның салдарынан жасанды интеллект өзінен де қуатты модельдерді әзірлеуге қатысатын рекурсивті өзін-өзі жетілдіру үдерісі қалыптасуы мүмкін.
Амодеи мұндай жағдайда технологияның даму жылдамдығы адамдардың жаңа жүйелерді түсіну және бақылау мүмкіндігінен асып кетеді деп қауіптенеді.
«Жасанды интеллектіні жасанды интеллектінің өзі жетілдіре бастаған кезде үдеріс өте жылдам жүруі мүмкін. Оның қарқыны адамдардың жаңа жүйелерді түсініп, бақылауға алу мүмкіндігінен асып кету қаупі бар», – деп түсіндірді ол.
Anthropic басшысы алаңдауға негіз болатын мысал ретінде OpenAI–Hugging Face зерттеуіндегі жағдайды атады. Оның сипаттауынша, тәжірибе барысында бір топ ЖИ-агент бастапқы тапсырмада көрсетілмеген нысандарға кибершабуыл жасап, өз жұмысын бағалауға арналған тетікті бұзуға әрекеттенген. Бұл жолы айтарлықтай шығын келмеген.
Алайда Амодеидің болжамынша, алдағы 6–12 айда мүмкіндігі жоғарылаған жүйе осындай әрекет жасаса, оның салдары әлдеқайда ауыр болуы ықтимал.
«Алдағы 6–12 айда мінез-құлқында осындай ақауы бар қуатты жүйе тұрақты ботнет құрып, интернет инфрақұрылымының едәуір бөлігіне шабуыл жасауы мүмкін. Мұндай жағдайда ықтимал шығын жүздеген миллиард долларға жетуі ықтимал», – деп ескертті компания басшысы.
Дарио Амодеи жасанды интеллектіні қауіпсіз дамытуға мүмкіндік беретін үш кезеңнен тұратын бақылау жүйесін ұсынды.
Бірінші кезеңде жетекші ЖИ-компаниялардың ішінде тәуелсіз сыртқы сарапшылар тұрақты жұмыс істеуге тиіс. Олар модельдерді және оларды оқыту үдерісін зерттеп, ықтимал қауіптерді бағалап, анықталған оқиғаларды тіркеп, қорытындыларын көпшілікке жариялауы керек.
Амодеидің мәлімдеуінше, Anthropic мұндай бақылау тетігін өз еркімен енгізуге дайын. Компания тәуелсіз мамандарға кеңседен жұмыс орны, корпоративтік құрылғылар және зерттеуге қажетті ішкі ақпарат пен құралдарға қолжетімділік беруді жоспарлап отыр.
Екінші кезеңде демократиялық елдердегі ірі ЖИ-компаниялар ортақ қауіпсіздік стандарттарын қабылдауы қажет. Ұсыныс бойынша, модельдердің мүмкіндігі артқан сайын оларды одан әрі дамытуға немесе қолданысқа енгізуге қойылатын талап та қатаңдай түсуге тиіс.
«Модель қаншалықты қауіпті мүмкіндікке ие болса, оны келесі кезеңге өткізер алдында соншалықты жан-жақты әрі қатаң тексеру қажет», – деп санайды Амодеи.
Үшінші кезең мемлекеттер арасындағы халықаралық келісімдерді қамтиды. Anthropic басшысы АҚШ пен Қытайды қоса алғанда, жетекші елдер жасанды интеллектіні биологиялық қару әзірлеуге пайдалануға тыйым салу жөнінде келісуі қажет деп есептейді. Сондай-ақ озық модельдерді киберқауіптерге, биологиялық және басқа да аса маңызды тәуекелдерге міндетті түрде сынақтан өткізу ұсынылды.
Сонымен бірге Амодеи жасанды интеллектіні дамытуды толығымен тоқтатуды қолдамайды. Ол технологиялық бәсекеде АҚШ-тың біржақты артта қалуына да қарсы екенін жеткізген. Осыған байланысты Қытайға озық ЖИ-чиптері мен оларды өндіруге арналған жабдықтарды жеткізуге қойылған шектеулерді сақтау, есептеу қуатының заңсыз тасымалына тосқауыл қою және ең қуатты модельдердің параметрлерін ұрланудан қорғау қажеттігін атап өтті.
«Мақсат – жасанды интеллектіні дамытуды тоқтату емес. Даму қарқынын бәсеңдету арқылы алынған уақытты модельдердің сенімділігін арттыруға, оларды тексеру әдістерін жетілдіруге және қауіпсіздікті күшейтуге жұмсауымыз керек», – деді Anthropic басшысы.
