🦞 OpenClaw негізін қалаушы Штайнбергер OpenAI-ге қосылды, ашық бастапқы кодты бот негізге айналды ↗
Питер Штайнбергер «жеке агенттерді» дамыту үшін OpenAI-ге бет алды, ал OpenClaw-тың өзі қорда тұрақталып, ашық бастапқы код болып қала береді (және қолдау көрсетіледі). Бұл бөліну... біршама ақылды - құрылысшыны жалдау, жобаны жария ету.
OpenClaw-тың ұсыныстары өте практикалық: электрондық пошта сұрыптау, сақтандыру құжаттарын толтыру, рейстерге тіркелу, өмірді басқарудың қиын міндеттері. Ол сондай-ақ GitHub-та да кең таралған, және бұл танымалдылық қауіпсіздік мәселелерін тудырды, әсіресе адамдар оны абайсызда орналастырған жағдайда.
🪖 Пентагон әскери күштердің Клод жасанды интеллект моделін қолдануына антропиялық реакциядан «шаршаған» және байланыстарын үзуі мүмкін, делінген хабарламада ↗
Негізгі күрес: Пентагон кең, «барлық заңды мақсаттарға» қолжетімділікті қалайды, ал Anthropic әлі де толық автономды қарулар мен жаппай бақылауға қатысты қатаң шектеулерді сақтауға тырысуда. Бұл біреу «біз сізді алмастырамыз» дегенге дейін философиялық естілетін келіспеушілік
Бағаланбаған бір мәселе - шенеуніктер модельдің жұмыс ағындарын кенеттен ортасында бұғаттағанын қаламайды және олар шеткі істерді мәңгілікке келіссөздер жүргізгісі келмейді (әділ... бірақ сонымен бірге қорқынышты). Мұнда нағыз «кілттерді кім ұстап тұр» деген шиеленіс бар және ол айқын емес.
🧠 Адам мінез-құлқын болжау үшін стартап құру моделі ↗
Simile адамдардың не істей алатынын болжауға бағытталған «шектеулі оқыту» моделін құру үшін 100 миллион долларлық раундқа қатысты, оның ішінде, әсіресе, табыс туралы қоңыраулар сияқты мәселелердегі ықтимал сұрақтарды болжауға бағытталған. Тар мақсат, үлкен амбиция, аздап қорқынышты үйлесім.
Бұл тәсіл нақты адамдармен сұхбаттарға және мінез-құлықты зерттеу деректеріне негізделген, содан кейін нақты қалауларды көрсетуге арналған жасанды интеллект агенттерімен модельдеу жүргізеді. Бұл адамдардың шешімдері үшін ауа райы моделін жасау сияқты... бұл мүмкін емес болып көрінеді, бірақ ол мүмкін емес.
🧑⚖️ Scoop: Ақ үй Юта штатының заң шығарушысына жасанды интеллект ашықтығы туралы заң жобасын тоқтатуға қысым жасайды ↗
Юта штатындағы жасанды интеллекттің ашықтығын қамтамасыз етуге бағытталған мемлекеттік деңгейдегі бастама Ақ үй тарапынан тікелей наразылық тудыруда, шенеуніктер заң жобасының авторын оны алға жылжытпауға шақыруда. Заң жобасының негізі ашықтық пен балалардың қауіпсіздігі туралы - таза оптика тұрғысынан дау айту қиын.
Бірақ үлкен дау юрисдикцияға байланысты: ережелерді кім белгілейді, штаттар ма, әлде федералды үкімет пе. Иә, бұл екі адамның бір рульді ұстап, сабырлы екенін талап етуі сияқты айқай-шу.
🎬 ByteDance Disney компаниясының қауіпінен кейін жасанды интеллект бейне құралында зияткерлік меншікті рұқсатсыз пайдаланудың алдын алуға уәде берді ↗
Disney ByteDance компаниясының жасанды интеллект бейне генераторына қатысты келісімшартқа қол қойды, ал ByteDance компаниясы зияткерлік меншік пен ұқсастықтарды рұқсатсыз пайдаланудың алдын алу үшін қауіпсіздік шараларын күшейтіп жатқанын мәлімдеді. Шағым - болжам бойынша - құрал таныс франшиза кейіпкерлерін жай ғана... қоғамдық домен стикерлері сияқты көрсете алады.
Бұл барлығы күткен қақтығыс: вирустық жасанды интеллект бейне құралдары тез қозғалады, студиялар сот ісін жүргізуге көшеді, ал «біз қорғаныс шараларын қосамыз» әдепкі кешірім сұрау тіліне айналады. Бір қарағанда, технология сиқырға ұқсайды - ал заңды жағы гравитацияға ұқсайды.
Жиі қойылатын сұрақтар
OpenClaw негізін қалаушы OpenAI-ге қосылды, ал OpenClaw қорға көшті деген нені білдіреді?
Бұл «жеке агенттерді» құратын адам мен жобаның қоғамдық басқаруда қалуы арасындағы алшақтықты білдіреді. Штайнбергер OpenAI-ге қосылуы агент стиліндегі өнімдерді сол жерде дамытуға назар аударатынын білдіреді. OpenClaw-ты қорда орналастыру оны ашық бастапқы кодты және тұрақты қолдауды қамтамасыз етуге бағытталған. Іс жүзінде бұл қадам құрылысшы ресурстар бар жерде жұмыс істеген кезде қоғамдастық сенімін сақтауға бағытталған.
Неліктен OpenClaw стиліндегі жасанды интеллект агенттері электрондық пошта және қағазбастылық сияқты үй шаруаларына назар аударады?
Өйткені «өмірді басқару» жұмысы қайталанатын, ережелерге негізделген және уақытты қажет ететіндіктен, оны автоматтандырудың практикалық нысанасына айналдырады. Мұндағы мысалдар - электрондық поштаны сұрыптау, сақтандыру құжаттарын толтыру және рейстерге тіркелу - айқын табыс критерийлері бар тар міндеттер. Бұл назар аудару агенттердің ашық көмекшілерге қарағанда өздерін тезірек құнды сезінуіне мүмкіндік береді. Сондай-ақ, агенттер жеке есептік жазбаларға қол жеткізген кезде мұқият кіруді бақылаудың маңыздылығын атап көрсетеді.
OpenClaw сияқты ашық бастапқы коды бар жасанды интеллект агентін қауіпсіздік мәселелерін тудырмай қалай орналастыруға болады?
Оны ойыншық скрипті сияқты емес, құпия деректерді көре алатын бағдарламалық жасақтама сияқты қарастырыңыз. Жалпы тәсіл - тіркелгі деректерін құлыптау, рұқсаттарды қажетті минимуммен шектеу және журналдар мен аудит іздерін сақтау. Оны шектеулі ортада іске қосыңыз және оны жоғары құнды жүйелерден бөлек ұстаңыз. Көптеген қауіпсіздік мәселелері, әсіресе адамдар күшті қорғаныс шаралары жоқ соңғы нүктелерді немесе токендерді ашқан кезде, абайсыз орналастырудан туындайды.
Неліктен Пентагон Anthropic компаниясының Клодты әскери мақсатта пайдалануға қойған шектеулеріне наразы?
Дау ауқым мен бақылауға байланысты: Пентагон кең ауқымды «барлық заңды мақсаттарға» қол жеткізуді қалайды, ал Anthropic толық автономды қару-жарақ пен жаппай бақылауға қатысты қатаң шектеулер қояды деп сипатталады. Шенеуніктер сонымен қатар модельдердің жұмыс ағындарын орта жолмен бұғаттауын немесе шексіз шеткі келіссөздерді талап етуін қаламайды. Бұл шиеленіс естігендей абстрактілі емес - бұл модельдің нақты операцияларда не істей алатынын кім шешетіні туралы.
Стартаптар жасанды интеллект арқылы адамның мінез-құлқын қалай болжауға тырысуда және бұл неге даулы болып көрінеді?
Мұндағы мысал, Симиле, адамдардың не істей алатынын болжауға бағытталған «шектеулі оқыту» моделін қолданады, оның ішінде табыс туралы қоңыраулар сияқты контекстегі ықтимал сұрақтарды болжау бар. Сипатталған тәсіл мінез-құлықты зерттеу деректерімен сұхбаттарды және нақты қалауларды көрсетуге арналған жасанды интеллект агенттерін пайдаланатын модельдеуді біріктіреді. Бұл жасанды интеллектті адамдарға жауап беруден оларды болжауға ауыстыратындықтан, қорқынышты сезіледі. Қиындық - мәлімдемелерді шектеу және шамадан тыс сенімділіктен аулақ болу.
ByteDance мен Disney қақтығысындағыдай, жасанды интеллект бейне құралдары авторлық құқықпен қорғалған кейіпкерлерді жасағанда не болады?
Хабарланған үлгі таныс: студия тоқтату туралы бұйрық шығарады, ал платформа рұқсатсыз зияткерлік меншікті немесе ұқсастықтарды пайдаланудың алдын алу үшін қорғаныс шараларын күшейту арқылы жауап береді. Көптеген құралдарда қорғаныс шаралары мазмұн сүзгілерінің күшейтілуін, танылатын кейіпкерлерді анықтаудың жақсаруын және пайдаланушы саясатының айқын орындалуын білдіреді. Негізгі қақтығыс жылдамдық пен жауапкершілікте - вирустық генерация тез жүреді, ал құқықтарды қорғау ауырлық күші сияқты әрекет етеді. Бейне генераторлары таралған сайын осындай қақтығыстардың көбірек болуын күтіңіз.