Anthropic компаниясының бас директоры жасанды интеллекттің дамуын баяулату жоспарын жариялады
Дарио Амодей саладан... баяулауды сұрады. Тоқтатпауды. Қарқынды. Ұзақ эссе, үш қадам және рекурсивті өзін-өзі жетілдіру ересектер тексере алатыннан да жылдам дамып келе жатқаны туралы ескерту.
Anthropic біржақты түрде ғимараттың ішіне кіріктірілген бағалаушыларды шақырады - төсбелгілер, үстелдер, ноутбуктар және PR сүзгісінсіз нәтижелерді жариялау құқығы. Содан кейін ол демократиялық зертханалардың қауіпсіздік стандарттарын үйлестіруін қалайды. Содан кейін, қандай да бір жолмен, авторитарлық үкіметтермен келісім. Қағаз жүзінде оңай. Басқа жерде қиын.
Ол әлі де жасанды интеллект керемет болуы мүмкін дейді. Сондай-ақ, ол қабілеттірек, дұрыс емес орналасқан топ интернетті тұрақты ботнетпен басып алып, жүздеген миллиард зиян келтіруі мүмкін дейді. Бұл екі сөйлем бір-бірімен қатар тұрады және олар бір-бірімен үйлеспейді.
О, және ол қауіпсіздік мәселелері бойынша әңгімелердің өзі заңды мәселе болмауы үшін монополияға қарсы заңнамадан тар жеңілдік алғысы келеді. Тежегіштер құжаттармен бірге келеді. Әрине, солай.
Сэм Альтман OpenAI компаниясының биыл көпшілікке сатылмайтынын растап, жасанды интеллект қауіпсіздігіне қатысты мәселелерді ескере отырып, IPO «ақылға сыймайтын сәтте» өткізілетінін айтты
Альтман эксклюзивті сұхбатқа отырып, тізім күнтізбесін жойды. Оның айтуынша, қазіргі IPO «ақылға сыймайтын сәт» болады. Қауіпсіздік жұмыстары әлі аяқталған жоқ. Теңестіру жұмыстары әлі аяқталған жоқ. Қоғам дайын емес. Олар оны қыспаққа алғанда - биыл дайын емес.
Банкирлер қазірдің өзінде айналып жүрді. Құпия құжат бар. Енді бас директор алдымен көп нәрсе істеу керек екенін, соның ішінде сала мен үкіметтердің қалай бірлесіп жұмыс істейтінін анықтау керектігін айтып отыр. Күткеніне жеңілдеп қалғандай болды.
Ол сондай-ақ жасанды интеллектті адамның бақылауынан тыс құру «мүлдем» мүмкін екенін айтты - содан кейін егер бұл жол болса, оқытуды тоқтата тұруға уәде берді. Батыл. Сондай-ақ ыңғайлы болуы мүмкін. Екеуі де мүмкін. Оның айтуынша, коммерциялық емес/коммерциялық ұйымдардың түйіні акционерлердің мүддесіне сай келмейтін қоңыраулар жасай алатындай етіп бар. Бұл сөйлем нақты проспектімен байланыста бола ма, жоқ па, көреміз.
OpenAI компаниясының Сэм Альтман қауіпсіздік тәуекелдерін жою үшін басқа жасанды интеллект компанияларымен келісімге келуге шақырады
Сол сұхбат, басқа тақырып, ал бұл сыбыр. Амодей, Маск және Демис Хассабиспен кездесу - келесі табиғи қадам. Альтман: ол солай болады деп ойлайды. Ол жеке келіссөздерді алдын ала жарияламайды. Содан кейін ол оларды алдын ала жариялады.
Оның айтуынша, екі таңбалы апаттық тәуекел қабылданбайды. Әлі шығарылмаған модельдер қазірдің өзінде соншалықты қабілетті, сондықтан жақсы бақылаусыз әрі қарай жылжу абайсыздық сияқты сезіледі. Нағыз келісім мен мұқият ағып кеткен атмосфера сырттан бірдей көрінуі мүмкін.
Қызметкерлер мұның бір нұсқасын іштей естіген болатын. Көпшілік алдында әлі де тұман. Егер бөлмеде осындай жағдай орын алса, керемет. Егер орын алмаса, баға әлі де жұмыс істеді.
Сэм Альтман Дарио Амодейдің баяулау туралы үндеуін қолдайды және OpenAI де солай істейтінін айтады
Эсседен кейін бірнеше сағаттан кейін Альтман OpenAI ендірілген бағалаушының уәдесіне сәйкес келетінін жариялады. Қызметкерге ұқсас қолжетімділік. Жақын арада бөлісетін жаңалықтар. Маск үш сөз жазды: «Дарио дұрыс айтады». Үш бәсекелес бас директор. Бір ұран. Демалыс күндеріне арналған мазасыз энергия.
Үйлестіру мен театр бірге жүре алады. Amodei жоспарының бірінші сатысында қазір ең үлкен екі зертхана көпшілік алдында бас изейді. Құшақтаған жүз - иә, сол Құшақтаған жүз - бағалаушы бағдарламасына қосылуды сұрады және Open Alignment Initiative деп аталатын нәрсені іске қосты. Хакерлік шабуылға ұшыраған адамдардан ашықтық. Поэтикалық немесе нұсқа.
Еуропа, айтпақшы, АҚШ-тағыдай жеңілдік сұрайтын ешкім жоқ. Брюссель жеке жеңілдіктерді беруді баяғыда тоқтатқан. Сондықтан қол алысу американдыққа тән. Картаның қалған бөлігі... иығын қиқаң еткізіп тұр.
OpenAI тек жеңіске жеткісі келеді
Математиктер демалыс күндері сұхбаттасқаннан кейін мерекелік көңіл-күйде емес. OpenAI-дің Navier-Stokes спринті – шамамен он мың агент, ондаған миллион долларлық есептеулер, сексен сегіз сағат – өрістің ішінен олжа іздеу сияқты көрінеді. Математиктер түсінікті қалайды. Зертхана, олар үнемі айтып отырады, жеңіске жеткісі келеді.
Тристан Бакмастер оларға OpenAI антропикалық жүйелермен байланысты серіктесін жұмыстан шығарса, шексіз есептеу және жеке авторлық құқық ұсынатынын айтты. Ол мұны пара деп атады. Ол жоқ деп жауап берді. OpenAI оның Codex сұраулары жүйеге әсер ете алмайтынын анық айтады. Ол сенімді емес. Андреас Том әлі күнге дейін ChatGPT чаттары кейінірек оған негізделген модельді өз жұмысы туралы әңгімелерден алған ба деп ойлайды. Тек компания ғана біледі. Ол олардың тіпті білмейтініне күдіктенеді.
Ал содан кейін басты мәселе: OpenAI Мыңжылдық сыйлығының тағы бір мәселесінде айтарлықтай ілгерілеушілікке қол жеткізгенін айтады. Қайсысы аталмаған күйінде қалады. Клэйге әлі де ұзақ уақыт бойы қоғамдастықтың қабылдауы қажет. Сондықтан әлі ешкім «жеңіске жеткен жоқ». Олар келесісіне жарысып жатыр. Сүйкімді.
Жиі қойылатын сұрақтар
Anthropic компаниясының бас директоры Дарио Амодейдің жасанды интеллекттің дамуын жеделдету жоспары қандай?
Амодей саланы тоқтатпауды, баяулатуды сұрайтын ұзын эссе жариялады, себебі рекурсивті өзін-өзі жетілдіру аудиторлар ілесе алатыннан жылдам дамып келеді. Бірінші қадам - біржақты түрде кіріктірілген бағалаушыларды Anthropic-ке төсбелгілермен, үстелдермен, ноутбуктармен және PR сүзгісінсіз нәтижелерді жариялау құқығымен шақыру. Содан кейін ол демократиялық зертханалардың қауіпсіздік стандарттарын үйлестіруін және ақырында авторитарлық үкіметтермен қандай да бір келісім жасауын қалайды. Ол сондай-ақ қауіпсіздік туралы келіссөздердің өзі заңды мәселе болмауы үшін тар монополияға қарсы жеңілдік алғысы келеді.
Неліктен Сэм Альтман OpenAI биыл IPO жасамайды деп айтты?
Эксклюзивті сұхбатында Альтман қазіргі IPO-ны өткізу дұрыс емес сәт болатынын айтты, себебі қауіпсіздік жұмыстары, үйлестіру және қоғамның дайындығы әлі аяқталмаған. Банкирлер айналып жүрсе де және құпия құжат болса да, ол биыл бұлай болмайтынын растады. Ол коммерциялық емес/коммерциялық құрылымның OpenAI акционерлердің мүддесіне сай келмейтін шешімдер қабылдай алатындай етіп жасалғанын алға тартты. Сондай-ақ, ол жасанды интеллектті адамның бақылауынан тыс құру мүмкін екенін айтты және егер бұл жол болса, оқытуды тоқтата тұратынына уәде берді.
Альтман басқа жасанды интеллект зертханаларымен қауіпсіздік туралы келісімге меңзеді ме?
Сол сұхбатында Альтман Амодей, Маск және Демис Хассабис сияқты әріптестерімен кездесу болады деп ойлайтынын, ал жеке келіссөздер туралы алдын ала хабарлаудан бас тартқанын айтты. Ол екі таңбалы апаттық тәуекелге жол берілмейді және әлі шығарылмаған модельдер қазірдің өзінде соншалықты қабілетті, сондықтан жақсы бақылаусыз әрі қарай жылжу абайсыздық болып көрінеді деп алға тартты. Қызметкерлер мұның ішкі нұсқасын бұрыннан естіген, сондықтан қоғамдық пікірлер аяқталған келісімді растаудың орнына үйлестіруді алдын ала қарастыруы мүмкін.
OpenAI Anthropic-тің ендірілген бағалаушы уәдесіне сәйкес келе ме?
Amodei эссесінен кейін бірнеше сағаттан кейін Альтман OpenAI ендірілген бағалаушының уәдесін қызметкерге ұқсас қолжетімділікпен және жақын арада қосымша мәліметтермен үйлестіретінін жариялады. Илон Маск Дарионың дұрыс айтқанын жазып, үш бәсекелес бас директорды осындай ұранға қойды. Hugging Face бағалаушы бағдарламасына қосылуды сұрап, Open Alignment Initiative бастамасын іске қосты. Еуропа Amodei ұсынған АҚШ стиліндегі монополияға қарсы жеңілдікті ұсына алмайды, сондықтан қол алысу әзірге негізінен американдық сипатта.
Неліктен математиктер OpenAI-дің Navier-Stokes спринтін сынға алып жатыр?
Математиктер OpenAI-дің шамамен он мың агент, сексен сегіз сағаттық Navier-Stokes жұмысын түсінікке қарағанда жеңіске жетуге басымдық беретін олжа іздеу деп сипаттайды. Тристан Бакмастер OpenAI антропикалық серіктесті жұмыстан шығарса, шексіз есептеу және жеке авторлық құқық ұсынатынын айтты; ол мұны пара деп атап, бас тартты. OpenAI өзінің Codex сұраулары жүйеге әсер ете алмағанын айтады, бірақ ол әлі күнге дейін сенімді емес. Андреас Том әлі күнге дейін ChatGPT өзінің жұмысы туралы кейінгі модельдің дамуына негізделген әңгімелер жүргізе ме, жоқ па, соны талап етеді.
OpenAI Мыңжылдық сыйлығының тағы бір мәселесінде ілгерілеушілікке қол жеткізді ме?
OpenAI Мыңжылдық сыйлығының тағы бір мәселесінде айтарлықтай ілгерілеушілікке қол жеткізгенін айтады, бірақ қайсысы екенін атамайды. Clay математика институты әлі де ұзақ уақыт бойы қоғамдастықтың қабылдауын талап етеді, сондықтан әлі ешкім ресми түрде жеңіске жеткен жоқ. Ішкі жағынан алғанда, бұл құпиялылық пен бұрынғы Навье-Стокс жарысы зертханалардың келесі кубокты жеңіп алу үшін жүгіріп жатқанын көрсетеді. Verge сұхбаттары математиктердің түсінік алғысы келетінін, ал OpenAI жеңіске жеткісі келетінін көрсететін шиеленісті көрсетеді.