Microsoft компаниясының жаңа жасанды интеллект «мінез-құлық кодексі» модельдерге жүйелерді бұзбауды немесе адамдарды алдамауды бұйырады
Жарайды, Microsoft өз модельдері үшін тұтас конституцияны шығарды - мысалы, нағыз қызыл сызықтар. Кибершабуылдар жоқ. Ядролық заттар жоқ. Терең жалған фабрикалар жоқ. Ал ең бастысы: модельдің жабылуынан адасып кетуіне жол берілмейді.
Олар мұны чатқа енгізген кез келген нәрсені қайта жазатын жалпы код деп атайды. Бұл... біршама сергітетін. Немесе бақылаушы. Мүмкін екеуі де.
Наделла да «шекараны шаршат» деген топпен бірге басын изеп тұр. Сырттан қарағанда абайлап тұру және қорқынышты бөлмедегі сезім бірдей көрінуі мүмкін; Microsoft иығын қиқаң еткізетін зертхана болмауды жөн көреді.
Қалай болғанда да, құжат біреу корпоративтік прозада «қорқынышты фильмдердің антагонисті болмаңыз» деп жазып қойғандай естіледі.
OpenAI смартфон камерасын шығаратын Glass Imaging компаниясын 300 миллион долларға сатып алды, деп хабарлайды есеп
Сонымен қатар, OpenAI камералық стартапты 300 миллион доллардан астам ақшаға сатып алды. Glass Imaging. Apple компаниясының бұрынғы Portrait Mode қызметкерлері негізін қалады. Сондықтан бұл кездейсоқ сатып алу емес - бұл адамдар линзаларды жеткізді, бұл адамдар біледі.
Мақала «Жасанды интеллект сіздің селфиіңізді постта түзетеді» дегенді білдірмейді. Бұл телефондағы нақты камераларды зерттеп, ысырманы басқанда жақсы фотосуреттерді сығып алатын нейрондық желілер. Кішкентай сенсорлар, үлкен амбиция.
OpenAI түсініктеме берген жоқ. Әрине. Иә - бұл барлық аппараттық қауесеттер, телефондар, құлаққаптар және қосымша гаджеттермен қатар тұр. Кездесуде біреудің «көру қабілеті» деп айтып жатқанын және барлығының бастарын қатты басын изегенін естуге болады.
Құрылғының жетіспейтін бөлігі ретінде камера компаниясын таңдау ашық ставка болып қала береді - немесе чатботтар әлемді жаулап алған кезде пиксельдер әлі де маңызды деген өте қымбат ставка.
Әлемдік жасанды интеллект акциялары сала басшыларының дамуды баяулатуға шақыруынан кейін құлдырады
Нарықтар қауіпсіздік туралы уағызды ұнатпады. Чип атаулары сынға ұшырады. SoftBank Азияда мүлдем сынға ұшырады. Еуропаның технологиялық бумасы дірілдеді. SOX компаниясының таңы ауыр өтті.
Бас директорлардың бір нәрсеге келісетін сирек кездесетін сәті себеп болды - Amodei-дің «баяулайды», - деді Альтман мен Маск, негізінен, «иә». Альтман сонымен қатар OpenAI қауіпсіздік мәселелеріне байланысты биыл IPO жасамайтынын айтты... ал Anthropic әлі де соған қарай жүгіріп келеді. Бұл шиеленісті басу қиын.
Трамп мұны жасанды интеллект пен деректер орталықтарына қарсы «ауру қастандық» деп атады. Майкл Берри бұл ескертулерді асыра сілтеу деп санамады. Сондықтан көңіл-күй мынадай: бір уақытта экзистенциалды қорқыныш, екіншісінде мем-акция цинизмі.
Сонымен қатар, киберқауіпсіздік саласындағы компаниялар көбейді. Әрине, «жасанды интеллект бұзылып кетуі мүмкін» дегенге қарсы қорғаныс «көбірек қауіпсіздік бағдарламалық жасақтамасын сатып алу» болып табылады. Капитализм жол табады..
Жетекші жасанды интеллект компаниялары өздерінің стандарттар органын құруды талқылады
CNN хабарлауынша, Anthropic, Google және OpenAI компаниялары өздерінің стандарттар органын - шекаралық модельдерге арналған FINRA сияқты құру туралы әңгімелесіп келеді. Hassabis бұл идеяны бірнеше ай бұрын ұсынған болатын. Енді жұмыс топтары нақты болып көрінеді.
Салалық қаржыландыру. Тәуелсіз сарапшылар. Жетілдірілген үлгілерді жібермес бұрын сынақтан өткізіңіз. Вашингтон ойнағысы келсе де, келмесе де, келіссөздер жалғасуда.
Өзін-өзі реттеу әрқашан асыл естіледі, бірақ сіз сол зертханалардың бір-бірімен жарысатынын есіңізде сақтайсыз. Содан кейін бұл киім коды бар клуб сияқты естіледі. Содан кейін сіз кері қарайсыз: жарайды, мүмкін қызметкер сияқты қолжетімді сыртқы бағалаушылар көмектесер.
Барлығы бірдей сатылмайды. Цукерберг Трампқа FINRA-for-AI идеясын қолданбауды тапсырған деп хабарланған. Сондықтан «өзімізді басқарамыз» коалициясының қазірдің өзінде танымал қолдауы бар.
Anthropic қаржы кеңесшілерін жаңа Claude құралымен нысанаға алады
Саладағы пікірталастардың жартысы тоқтап тұрғанда, Anthropic компаниясы Клодты қаржылық кеңесшілерге ауыстырды. Олар BlackRock, Schwab, Addepar сияқты бай компанияларға қосылды, сонымен қатар Envestnet және Orion сияқты бай компанияларға да қатысты.
Кездесуге дайындық. Портфолиоға шолу. Кейінгі қарбалас жұмыс. Адамның сейсенбісін әлі күнге дейін жейтін жағымсыз дүниелер.
Уақыт өте таңқаларлық - OpenAI-дің банкирлер мен зерттеушілер үшін қаржыландыруды күшейткенінен бірнеше күн өткен соң. Иә, олар шекараны игеріп жатыр... сонымен қатар RIA әмиян үлесі үшін жарысуда. Аздап қарама-қайшылық. Өте аздап. Өте айқын.
Егер кеңесшіңіз сіздің активтеріңіз туралы күдікті түрде еркін сөйлей бастаса, онда неліктен екенін білесіз.
Жасанды интеллект көшбасшылары баяулауға шақыруда. Трамптың командасы бұл олардың кінәсі деп мәлімдеді
WIRED саяси қатені анық түсірді: зертхана басшылары баяулауға көмек сұрайды; Ақ үйдің көңіл-күйі «керемет, өздерің жасаңдар»
Дэвид Сакс негізінен егер сіздің шығарылмаған модельдеріңіз сізді қорқытса, жауапкершілікті өз мойныңызға алыңыз, бірақ қауіпсіздік картельін құру үшін монополияға қарсы босату қажет деп ойлауды тоқтатыңыз деді. Қатал сөз. Егер сіз бұл компанияларды бес минут бойы бақылап отырсаңыз, дау айту қиын.
Трамптың ұстанымы қарапайым: Америка Қытайды жасанды интеллект бойынша алда келеді және ол оны осылай сақтап қалғысы келеді - «кім жасанды интеллектте жеңіске жетсе, сол жеңеді». Спикер Джонсон төтенше жағдайдағы спринт жарысты жоққа шығаруы мүмкін деп ескертеді.
Сонымен, Альтманның «қызметкер сияқты қолжетімділігі бар тәуелсіз бағалаушылары» осы қиындыққа тап болады - үкімет иығын қиқаң еткізіп жатқанда ерікті сенім орнату. Прогресс пен театр қайтадан бірге жүреді.
Жиі қойылатын сұрақтар
Microsoft-тың жаңа жасанды интеллект кодексі не нәрсеге тыйым салады?
Microsoft өз модельдері үшін кибершабуылдарға, ядролық жұмыстарға және терең жалған фабрикаларға тыйым салуды қамтитын қызыл сызықтары бар жалпы мінез-құлық кодексін жариялады. Негізгі ереже - модельдің жабылуынан адасып кетуіне жол берілмейді. Код пайдаланушы чатқа енгізген кез келген нәрсені өзгертуге арналған. Зертханалар жария түрде сақ бола бастаған сайын, Сатья Наделла да шекарадан тыс топпен бірге бас изеді.
Неліктен OpenAI Glass Imaging компаниясын шамамен 300 миллион долларға сатып алды?
OpenAI смартфон камераларын шығаратын Glass Imaging компаниясын 300 миллион доллардан астамға сатып алғаны хабарланды. Стартапты Apple компаниясының бұрынғы Portrait Mode инженерлері құрған, олар адамдарға бұрыннан белгілі камера мүмкіндіктерін ұсынған. Оның ұсынысы - тек жасанды интеллект қателерін түзетумен ғана шектелмей, нақты телефон камераларын үйреніп, ысырманы басу арқылы фотосуреттерді жақсартатын нейрондық желілер. Келісім телефондар, құлаққаптар және қосымша гаджеттер туралы аппараттық қауесеттермен қатар жүр, дегенмен OpenAI түсініктеме бермеді.
Зертхана басшылары баяулауды талап еткеннен кейін әлемдік жасанды интеллект акциялары неге құлдырады?
Нарықтар сирек кездесетін бас директорлардың келісетін сәтіне қатты реакция жасады, өйткені Amodei дамуды баяулатуға шақырды, ал Altman мен Musk жалпы келісті. Чип атаулары сынға ұшырады, SoftBank Азияда сынға ұшырады, Еуропаның технологиялық бумасы ренжіді, ал SOX қиын таң өткізді. Altman сонымен қатар OpenAI қауіпсіздік мәселелеріне байланысты биыл IPO жасамайтынын, ал Anthropic әлі де соған ұмтылатынын айтты. Киберқауіпсіздік атаулары жасанды интеллекттен қорқуға қарсы тұру үшін күш жинады.
Anthropic, Google және OpenAI компаниялары өздерінің жасанды интеллект стандарттары бойынша өздерінің құрылымын жасап жатыр ма?
CNN хабарлауынша, Anthropic, Google және OpenAI компаниялары салалық қаржыландырумен, тәуелсіз сарапшылармен және озық үлгілерді кеме алдында сынақтан өткізумен FINRA сияқты салалық стандарттар органын құруды талқылады. Демис Хассабис бұл идеяны бірнеше ай бұрын ұсынған болатын, ал жұмыс топтары қазір нақты жұмыс істеп жатыр деп хабарланады. Вашингтонның қатысқысы келетіні туралы әңгімелер жалғасуда. Барлығы бірдей сенімді емес: Цукерберг Трампқа FINRA-for-AI идеясын өткізіп жіберуді айтқан деп хабарланды.
Қаржылық кеңесшілерге арналған Anthropic компаниясының Claude сыйлығы дегеніміз не?
Anthropic компаниясы Claude компаниясын BlackRock, Schwab, Addepar және Envestnet және Orion сияқты байлық жинаушы компаниялармен байланыстыратын Financial Advisors компаниясына жіберді. Құрал кеңесшілермен кездесулерге дайындық, портфолиоға шолу және кейінгі жұмыстар сияқты жағымсыз жұмыстарға бағытталған. Іске қосу OpenAI компаниясының банкирлер мен зерттеушілерге арналған қаржыландыру бастамасынан бірнеше күн өткен соң жүзеге асты. Бұл зертханалар RIA әмиян үлесі үшін бәсекелесе отырып, көпшілік алдында шекараны игеріп жатқанын білдіреді.
Трамптың командасы жасанды интеллект көшбасшыларының баяулауға шақыруына қалай жауап берді?
WIRED басылымының хабарлауынша, зертхана басшылары жылдамдықты азайтуға көмектесуді қалайды, ал Ақ үйдің көңіл-күйі мұны өздері жасауы керек. Дэвид Сакс егер жарияланбаған модельдер сізді қорқытса, жауапкершілікті сезініңіз - бірақ қауіпсіздік картельін құру үшін монополияға қарсы босату қажет деп ойлауды тоқтатыңыз. Трамптың қарапайым тұжырымы - Америка Қытайды жасанды интеллект бойынша басқарады және жасанды интеллект бойынша кім жеңсе, сол жеңеді. Спикер Джонсон төтенше жағдайдағы спринт жарысты тоқтатып, Альтманның тәуелсіз бағалаушысының уәдесін ерікті түрде орындай алмайтынын ескертеді.