⚖️ Пентагонның жасанды интеллектті пайдалануға шектеу қоюына байланысты қара тізімге енгізуіне антропиялық сот істері кедергі келтіруде ↗
Anthropic компаниясы жеткізу тізбегіндегі тәуекел деп танылғаннан кейін Пентагонмен күресін сотқа берді. Компания бұл қадам автономды қару мен ішкі бақылауға қатысты қорғаныс қоршауларын жеңілдетуден бас тартқаны үшін заңсыз кек алу болды деп мәлімдейді, бұл дауды қазіргі уақытта жасанды интеллект саясатындағы ең өткір нүктелердің біріне айналдырады. ( Reuters )
Үкімет «кез келген заңды пайдалану» үшін икемділікті қалайды, ал Anthropic жеке зертханаларға әлі де қатаң қауіпсіздік шекараларын салуға рұқсат етілуі керек деп тұжырымдайды. Бұл жасанды интеллект компаниясының әскери шарттарға «жоқ» деп айта алатынын және олар үшін мақұлданбай-ақ қоя алатынын көрсететін ең айқын сынақтардың біріне айналды. ( Reuters )
🧑💻 OpenAI және Google қызметкерлері Anthropic компаниясының Пентагонға қарсы сот ісін қолдайды ↗
Бұл сот ісі бәсекелес зертханалардың ішінде де тез қолдау тапты. OpenAI және Google компанияларының шамамен 40 қызметкері Anthropic компаниясын amicus қысқаша баяндамасында қолдап, жасанды интеллект қауіпсіздігінің қызыл сызықтары үшін фирмаларға қарсы кек алу қоғамдық мүддеге қайшы келетінін алға тартты. ( The Verge )
Иә, бәсекелестер кенеттен өздерін бір жақта тапты - кем дегенде осы тұста. Қысқаша сипаттама жаппай бақылау және сенімсіз автономды қаруларға бағытталған, бұл бүкіл оқиғаны стандартты Кремний алқабындағы мергендікке емес, құмдағы... немесе балшықтағы нағыз өнеркәсіп желісіне ұқсатады. ( The Verge )
🛡️ OpenAI компаниясы жасанды интеллект агенттерін қорғау үшін Promptfoo компаниясын сатып алды ↗
OpenAI ірі тілдік модельдерді қарсылас шабуылдардан қорғауға бағытталған стартап Promptfoo компаниясын сатып алатынын мәлімдеді. Жоспар бойынша, өз технологиясын компанияның жасанды интеллект агенттеріне арналған корпоративтік платформасы OpenAI Frontier-ге біріктіру көзделген. ( TechCrunch )
Бұл маңызды қадам. Барлығы агенттік жасанды интеллекттің барлық жерде көбірек, жылдамырақ жұмыс істеуін қалайды - бірақ қауіпсіздік жағы аздап немесе көп жағынан артта қалып отыр. Бұл келісім OpenAI келесі ірі жарыс тек ақылды агенттер үшін ғана емес, сонымен қатар қауіпсіз агенттер үшін де деп санайтынын көрсетеді. ( TechCrunch )
🧪 Anthropic жасанды интеллект арқылы жасалған кодтың ағынын тексеру үшін кодты қарап шығу құралын іске қосты ↗
Anthropic компаниясы Claude Code ішіндегі Code Review бағдарламасын іске қосты, ол жасанды интеллект кодтау құралдарымен жасалған pull requests-ке батып бара жатқан командаларға бағытталған. Ол кодты сканерлеу, логикалық мәселелерді белгілеу, рейтингтің ауырлығын анықтау және GitHub-та тікелей пікірлер қалдыру үшін бірнеше агенттерді қатар пайдаланады. ( TechCrunch )
Ұсыныс өте қарапайым - жасанды интеллект кодты адамдар ақылмен қарап шыға алатыннан тезірек жасайды, сондықтан енді жасанды интеллект оны қарап шығуы керек. Жылан жейтіндей құйрық құрылымы, бірақ практикалық. Anthropic компаниясының айтуынша, бұл кәсіпорын пайдаланушыларына Клод Кодтан үлкен код шығарылымын көруге бағытталған. ( TechCrunch )
💰 Nvidia қолдаған Nscale компаниясының жаңа қаржыландыру раундында 14,6 миллиард долларға бағаланған ↗
Ұлыбританияның жасанды интеллект инфрақұрылымы компаниясы Nscale C сериялы раундта 2 миллиард доллар жинап, 14,6 миллиард долларлық бағалауға қол жеткізді. Демеушілер арасында Aker, 8090 Industries, Nvidia, Citadel, Dell және Jane Street болды, бұл сенімді дауыс берудің айтарлықтай маңызды көрсеткіші. ( Reuters )
Бұл маңызды, себебі бұл кезекті модельдің іске қосылуы немесе чатботты өзгерту емес. Бұл бумның ең маңызды жағы - есептеу, инфрақұрылым, қуат, перде артындағы барлық ауыр техника. Мүмкін, бұл сәнді емес шығар, бірақ қазір ақшаның көп бөлігі осында жұмсалуда. ( Reuters )
🧠 Янн ЛеКунның AMI Labs компаниясы әлемдік модельдерді құру үшін 1,03 миллиард доллар жинады ↗
Янн ЛеКунның жаңа кәсіпорны AMI Labs компаниясы 3,5 миллиард долларлық алдын ала бағалаумен 1,03 миллиард доллар жинады. Компания «әлемдік модельдерді» қуып келеді - негізінен тілден емес, шындықтың өзінен үйренуге арналған жасанды интеллект жүйелері. ( TechCrunch )
Бұл қазіргі LLM-ге негізделген консенсусқа тікелей философиялық ауытқу, және бұл өте дөрекі пікір. ЛеКун көптеген жылдар бойы бүгінгі тілдік модельдер бізді адам деңгейіндегі интеллектке жеткізбейді деп дәлелдеп келеді, сондықтан бұл көтеріліс бұл дәлелді өте қымбат экспериментке айналдырады. ( TechCrunch )
🇨🇳 Қытайлық технологиялық орталықтар қауіпсіздік ескертулеріне қарамастан OpenClaw жасанды интеллект агентін жарнамалайды ↗
Қытайдың бірнеше жергілікті үкіметі OpenClaw жасанды интеллект агентін қолдап отыр, ол жеке деректерге қол жеткізуге байланысты қауіпсіздік мәселелеріне қарамастан тез таралуда. Сондықтан ресми көңіл-күй: иә, тәуекелдер бар - және иә, оны кез келген жағдайда масштабтайық. ( Reuters )
Мәселе мынада. Жергілікті хабтар экономикалық өсім мен экожүйенің серпінін қалайды, ал реттеуші органдар деректердің жария болуы туралы ескертеді. Бұл қазірдің өзінде жасанды интеллекттің таныс үлгісі - алдымен жүгіріңіз, кейін қоршауларды ретке келтіріңіз немесе солай болып көрінеді. ( Reuters )
Жиі қойылатын сұрақтар
Неліктен Anthropic жасанды интеллектті пайдалануға шектеулер қойғаны үшін Пентагонды сотқа беріп жатыр?
Anthropic компаниясының айтуынша, Пентагон компания автономды қару мен ішкі бақылауға қатысты кеңірек шарттардан бас тартқаннан кейін оны жеткізу тізбегіндегі тәуекел деп атаған. Бұл сот ісін тек жеткізуші мәртебесінен де артық нәрсеге айналдырады. Бұл жасанды интеллект зертханасының қатаң қауіпсіздік шектеулерін сақтай алатынын және жазаланбай үкіметтік жұмыс үшін бәсекелесе алатынын тексеріп жатыр.
Неліктен OpenAI және Google қызметкерлері осы жасанды интеллект қауіпсіздігі дауында Anthropic компаниясын қолдайды?
Amicus қысқаша мәліметі бәсекелес зертханалардағы көптеген адамдар мұны бір компания мен бір агенттік арасындағы дау емес, жасанды интеллект қауіпсіздігі мәселесі ретінде қарастыратынын білдіреді. Олардың алаңдаушылығы - жеткізушіні қызыл сызықтарды сақтағаны үшін жазалау кең нарықты қорғаныс шараларын әлсіретуге мәжбүр етуі мүмкін. Іс жүзінде бұл болашақ қорғаныс және мемлекеттік сектордағы жасанды интеллект келісімшарттарының қалай келісілетінін қалыптастыруы мүмкін.
Антропиялық-Пентагон ісі жасанды интеллект саясаты мен қорғаныс келісімшарттары үшін нені өзгертуі мүмкін?
Егер Anthropic жеңіске жетсе, жасанды интеллект компаниялары тіпті сезімтал үкіметтік ортаға сатқан кезде де қабылданбайтын пайдалануды анықтау үшін күшті негізге ие болуы мүмкін. Егер ол жеңілсе, агенттіктер жеткізушілерден кеңірек «заңды пайдалану» шарттарын талап ету үшін ықпалға ие болуы мүмкін. Қалай болғанда да, бұл дау сатып алу тіліне, тәуекелдерді шолуларға және қорғаныс келісімдеріне қауіпсіздік қоршауларының жазылу тәсіліне әсер етуі мүмкін.
Неліктен OpenAI жасанды интеллект агенттері үшін Promptfoo сатып алды?
Promptfoo ірі тілдік модельдерді қарсыласушы шақыруларға және басқа да қауіпсіздік әлсіздіктеріне қарсы сынақтан өткізумен танымал. OpenAI компаниясының кәсіпорын агенті платформасына осындай құралдарды қосу компанияның қауіпсіз орналастыруды қосымша тапсырма емес, бәсекелестік артықшылық ретінде қарастыратынын көрсетеді. Жасанды интеллект агенттері маңызды жұмыстарды атқарған сайын, төзімділік пен теріс пайдалануды сынақтан өткізуді елемеу әлдеқайда қиындай түседі.
Командалар жасанды интеллект жасаған кодтардың ағынын қалай қауіпсіз басқара алады?
Anthropic компаниясының Claude Code ішіндегі жаңа Code Review мүмкіндігі жасанды интеллект кодтау құралдарымен жасалған pull requests-тен шаршаған командаларға бағытталған. Ол логикалық мәселелерді анықтау, рейтингтің маңыздылығын бағалау және GitHub-та пікірлер қалдыру үшін бірнеше агентті қатар пайдаланады. Әдетте, мұндай құралдар көлемді сұрыптауға көмектеседі, бірақ адами шолушылар архитектура, контекст және соңғы бекіту үшін маңызды.
Неліктен қазіргі уақытта жасанды интеллект инфрақұрылымына соншалықты көп инвестиция салынуда?
Nscale компаниясының соңғы қаржыландыру раунды жасанды интеллект индустриясының есептеу техникасына, инфрақұрылымға және қуаттылыққа әлі де орасан зор капитал құйып жатқанын көрсетеді. Бұл шығындар көзге түсерлік модельді іске қосудан гөрі аз көрінуі мүмкін, бірақ ол басқаның бәрін қолдайды. Оқыту мен орналастыруға сұраныс өсе берген кезде, қайлалар мен күректерді сататын компаниялар көбінесе ең үлкен жеңімпаздардың біріне айналады.
Әлемдік модельдер дегеніміз не және Янн ЛеКун неге оларға ставка жасайды?
Әлемдік модельдер - бұл негізінен тілдік деректерге сүйенудің орнына, әлемнің қалай әрекет ететінінен сабақ алуға арналған жасанды интеллект жүйелері. Бұл маңызды, себебі Янн ЛеКун тілдік модельдердің өздігінен адам деңгейіндегі интеллектке жетуі екіталай деп ұзақ уақыт бойы айтып келеді. AMI Labs бұл көзқарасты жасанды интеллект саласындағы озық зерттеулер үшін басқа жолға ірі коммерциялық ставкаға айналдырады.
Неліктен қытайлық технологиялық орталықтар қауіпсіздік ескертулеріне қарамастан OpenClaw-ды қолдап отыр?
OpenClaw оқиғасы жылдам дамып келе жатқан технологиялық нарықтардағы таныс бөліністі көрсетеді: жергілікті үкіметтер өсуді, субсидияларды және экожүйелік серпінді қалайды, ал реттеушілер деректердің ашықтығы мен қауіпсіздігіне алаңдайды. Ескертулерге қарамастан агентті қолдау кейбір жерлерде экономикалық ынталандыру басым екенін көрсетеді. Бақылаушылар үшін бұл қабылдау көбінесе бақылаудан гөрі тезірек жүретінін еске салады.