Индонезия Масктың жасанды интеллект чатботы Grok-қа жалған суреттері үшін кіруді бұғаттады ↗
Индонезия Grok компаниясын келісімсіз жыныстық қатынасқа негізделген терең фейктерді, соның ішінде әйелдер мен балаларға бағытталған суреттерді жасау үшін пайдаланғаннан кейін уақытша бұғаттады. Үкімет мұны кішігірім техникалық қолайсыздық емес, адам құқықтары мен қоғамдық қауіпсіздік мәселесі деп бағалады.
Қысым нүктесі айқын: егер құрал нақты адамдарды «шешін» ете алса, дәлелдеу ауыртпалығы өзгереді. Платформалар бұл туралы ойлап отырғанына уәде беріп қана қоймай, оның алдын ала алатынын көрсетуі керек.
Илон Маск Ұлыбритания X-ке тыйым салынуы мүмкін болғандықтан, сөз бостандығын шектегісі келетінін айтты ↗
Ұлыбритания министрлері Грок келісімінсіз жыныстық қатынасқа ашық суреттер жасау үшін пайдаланылғаннан кейін айыппұлдарды ашық түрде енгізді, тіпті X-ті бұғаттады. Маск сөз бостандығы туралы таныс тұжырыммен қарсылық білдірді... бірақ Ұлыбританиядағы заңдылық «пікірталас клубынан» «сәйкестік мерзіміне» қарай тайып барады
Ofcom тез әрекет етуге итермеленіп жатыр, ал заң шығарушылар сол сұмдық үлгіге назар аударып отыр: суреттер таралғаннан кейін, зиян саясаттың жаңартылуын шыдамдылықпен күтпейді.
🧑💻 OpenAI мердігерлерден бұрынғы жұмыстарынан нақты жұмыстарды жүктеуді сұрайтыны хабарланды ↗
OpenAI оқыту деректері бойынша серіктесімен бірге мердігерлерден бұрынғы (және қазіргі) жұмыстардан алынған нақты жұмыс артефактілерін - құжаттарды, электрондық кестелерді, колодаларды, репозиторийлерді жүктеуді сұрап жатқаны туралы хабарланды. Мақсат - кеңсе типіндегі тапсырмалардағы жасанды интеллект агенттерін бағалау және жақсарту.
Жабысқақ бөлігі айқын және аздап сюрреалистік: мердігерлерге құпия ақпаратты өздері тазалау тапсырылады. Бұл жылдам жүретін құбырға үлкен сенім арту - біреуден бомбаны пеш қолғабын пайдаланып залалсыздандыруды сұрау сияқты.
🗂️ OpenAI мердігерлерден жасанды интеллект агенттерінің жұмысын бағалау үшін бұрынғы жұмыстарынан жұмыс жүктеуді сұрайды ↗
Жеке есепте дәл осы жағдай және оның құпиялылық пен зияткерлік меншік заңгерлерін неліктен алаңдататыны егжей-тегжейлі қарастырылады. Тіпті барлығы адал ниетпен әрекет етсе де, нақты корпоративтік құжаттармен жұмыс істеген кезде «құпия ақпаратты алып тастау» өте қарапайым нұсқаулық болып табылады.
Бұл сондай-ақ үлкен стратегияға меңзейді: жасанды интеллект агенттері енді тек әңгімелесетін ұшқыштар ғана емес - олар нақты жұмыстың шатастырылған, көп файлды шындығын еліктеуге үйретілуде. Практикалық, иә. Сондай-ақ, аздап... уайым.
🏦 Allianz және Anthropic Forge жаһандық серіктестігі сақтандыру саласындағы жауапты жасанды интеллектті дамытуға бағытталған ↗
Allianz және Anthropic үш бағытқа бағытталған жаһандық серіктестік туралы жариялады: қызметкерлердің өнімділігі, агенттік жасанды интеллект арқылы операциялық автоматтандыру және дизайн бойынша сәйкестік. Сақтандыру - бұл қағазбастылық, сондықтан мұндағы «агенттік» негізінен аудит іздерін жоғалтпай күрделі жұмыс процестерін автоматтандыруды білдіреді.
Негізгі ой: керемет автоматтандыруды жасаңыз, бірақ түбіртектерді сақтаңыз. Реттелетін салаларда бұл міндеттеме пиньятасына айналмай-ақ масштабтаудың жалғыз жолы.
🕵️♂️ X сайтындағы Grok AI-ге жауап ретіндегі мәлімдеме ↗
Ұлыбританияның деректерді қорғауды реттеуші органы Grok жасаған мазмұнға қатысты алаңдаушылықтарды ескере отырып, жеке деректерді қалай өңдеп жатқаны және адамдардың құқықтарын қалай қорғайтыны туралы түсінік алу үшін X және xAI компанияларына хабарласқанын мәлімдеді. Бұл тек «мазмұнды модерациялау» ғана емес - сонымен қатар адамдардың деректері заңды түрде өңделіп жатқаны және құқықтар қорғалып жатқаны маңызды.
Бұл сыпайы естілетін, бірақ жауаптар бұлыңғыр болып шықса... немесе жалтарып кетсе, немесе екеуі де болса, өте маңызды болып шығатын реттеушілік қадам.
Жиі қойылатын сұрақтар
Индонезия неге Grok AI-ге кіруді бұғаттады?
Индонезия Grok компаниясы әйелдер мен балаларға бағытталған суреттерді қоса алғанда, келісімсіз жыныстық терең фейктерді жасау үшін пайдаланылғаны туралы хабарланған соң, оны уақытша бұғаттады. Шенеуніктер бұл қадамды шағын техникалық дау емес, адам құқықтары мен қоғамдық қауіпсіздік мәселесі деп атады. Негізгі ой - құралдар дереу, қайтымсыз зиян келтіре алатын кезде «біз оны кейінірек түзетеміз» деген сөз жеткіліксіз.
Grok жасаған терең фейктер X-те пайда болғаннан кейін Ұлыбритания нені қарастырып жатыр?
Ұлыбритания министрлері айыппұлдарды және тіпті Grok келісімінсіз жыныстық қатынасқа ашық суреттер жасау үшін пайдаланылғаннан кейін X-ті бұғаттау мүмкіндігін ашық талқылады. Саяси және реттеуші реңк ашық пікірталасқа емес, орындалатын сәйкестікке қарай өзгеріп келеді. Заң шығарушылар үнемі қайталап айтатын мәселе - уақыт: суреттер таралғаннан кейін, платформалар жаңартылған саясатты жарияламас бұрын құрбандар зардап шегеді.
Реттеушілер жасанды интеллект кескін құралдары үшін «дәлелдеу ауыртпалығын басқаға аударғанда» бұл нені білдіреді?
«Дәлелдеу ауыртпалығы ауысады» деген идея платформалар тек қорғаныс шараларын уәде етудің орнына, белгілі бір зияндардың - мысалы, келісімсіз «шешіну» бейнелерін жасаудың - алдын ала алатынын көрсетуі керек болуы мүмкін дегенді білдіреді. Іс жүзінде бұл компанияларды дәлелденетін бақылауға, өлшенетін орындауға және ақауларды анық шешуге итермелейді. Сондай-ақ, бұл «ниеттің» нақты нәтижелер мен қайталанатын алдын алудан гөрі маңыздырақ екенін көрсетеді.
Платформалар жасанды интеллект арқылы жасалған келісімсіз терең фейктердің қаупін қалай азайта алады?
Жалпы тәсіл - көп деңгейлі алдын алу: нақты адамдарға байланысты шақырулар мен шығыстарды шектеу, «шешіну» стиліндегі сұраныстарды бұғаттау және келісімсіз жыныстық бейнелерді жасау әрекеттерін анықтау және тоқтату. Көптеген арналар жылдамдық шектеулерін, жеке басты және теріс пайдалануды бақылауды күшейтуді және мазмұн таралғаннан кейін жылдам жою жұмыс ағындарын қосады. Мақсат - тек саясат тілі ғана емес, сонымен қатар қарсыласушылық пайдалану кезінде де сақталатын құралдар.
Неліктен OpenAI мердігерлерінің нақты жұмыс құжаттарын жүктеп салуы дабыл қағуда?
Есептерде OpenAI (оқыту деректері бойынша серіктесімен) мердігерлерден кеңсе тапсырмаларын орындайтын жасанды интеллект агенттерін бағалау және жақсарту үшін нақты жұмыс артефактілерін - құжаттарды, электрондық кестелерді, декорацияларды және репозиторийлерді жүктеуді сұрайтыны айтылады. Алаңдаушы мәселе, мердігерлерге қателіктерге бейім болуы мүмкін құпия мәліметтерді өздері жою керектігі айтылады. Құпиялылық және зияткерлік меншік заңгерлері бұл «құпия деректерді жою» нұсқаулығы нақты корпоративтік материалдар үшін тым түсініксіз деп алаңдайды.
Allianz компаниясының сақтандыру саласындағы «агенттік жасанды интеллект» бойынша Anthropic компаниясымен серіктес болуының маңыздылығы неде?
Allianz және Anthropic қызметкерлердің өнімділігіне, агенттік жасанды интеллектті пайдалана отырып операциялық автоматтандыруға және дизайн бойынша сәйкестікке бағытталған жаһандық серіктестікті сипаттады. Сақтандыру жұмыс процестері күрделі және қатаң реттеледі, сондықтан «агенттік» көбінесе есеп берушілікті жоғалтпай көп сатылы процестерді автоматтандыруды білдіреді. Аудит іздері мен «түбіртектерді сақтауға» баса назар аудару практикалық шындықты көрсетеді: автоматтандыру тек реттелетін салаларда тексерілетін және қорғалатын болып қалған кезде ғана таралады.