🪖 OpenAI Пентагонмен жасалған келісім туралы қосымша мәліметтерді жариялады ↗
OpenAI өзінің Пентагон келісіміне сәл көбірек мазмұн қосты - және ол әлі де жылдамдық пен қауіпсіздік туралы таныс пікірталасты қоздырып келеді. Компанияның өз құрылымы былайша оқылады: бұл тез қозғалды, оптика бұлыңғыр, бірақ қоршаулар «шынайы». ( TechCrunch )
OpenAI тарапынан «қызыл сызықтар» деп жазылған жария жазба да бар, сонымен қатар орналастыру тек бұлтқа негізделген, қосымша кепілдік үшін OpenAI қызметкерлері қатысады деп талап етіледі. Ең болмағанда, негізгі ой осы - және ол түсініксіздікті ұнататын адамдарға арналмағаны анық. ( OpenAI )
🧨 OpenAI-Пентагон келісімі антропиялық келіссөздердегідей қауіпсіздік мәселелеріне тап болып отыр ↗
Axios негізінен былай дейді: бұл жаңа дау емес, бұл басқа жемпір киюмен байланысты дау. Негізгі мәселелердің бірі - бақылау қаупі - әсіресе «жарияланған» деректер және келісімшарт іс жүзінде шынымен нені бұғаттайды. ( Axios )
Anthropic компаниясы келісімшарттық шектеулерді қатаңдатуды талап еткен (әсіресе көптеп жинауға қатысты), ал OpenAI компаниясының тәсілі қолданыстағы заңнамаға және тар шектеулерге көбірек сүйенеді. Егер бұл «жүйеге сену» сияқты естілсе, онда адамдардың неліктен дірілдеп тұрғанын байқауға болады. ( Axios )
🎯 АҚШ әскери күштері Трамптың тыйымына қарамастан, Иранға жасалған шабуылдарда Клодты пайдаланды деп хабарланды ↗
Бұл жағдай қатты әсер етті - хабарларға қарағанда, Клод ірі ереуіл кезінде қолдаушы рөлдерде пайдаланылған, тіпті саяси басшылық байланыстарды үзу туралы ашық айтып жатқан кезде де. Саясат пен тәжірибе арасындағы мұндай сәйкессіздік қорқынышты түрде болжамды болып көрінеді. ( The Guardian )
Бұл жағдайдың кең ауқымды салдары «шешім қабылдауды қолдау» қай жерде аяқталып, әскери мақсатта қолдануға болмайтын нәрсе қай жерде басталатыны туралы өте көпшілік алдындағы дауға айналды. Ал бұл нәрсе жұмыс процестеріне енгеннен кейін, оны алып тастау қолданбаны жоюмен бірдей емес, бұл тортты ашуға тырысумен бірдей. ( The Guardian )
📡 NVIDIA және жаһандық телекоммуникация көшбасшылары ашық және қауіпсіз жасанды интеллект платформаларында 6G құруға міндеттенді ↗
Nvidia болашақ базалық нүкте ретінде «жасанды интеллектке негізделген» 6G-ны ұсынады - бұл қосымша емес, функция емес, құбырлар. Негізгісі: келесі буын желілері басынан бастап жасанды интеллектке негізделген оңтайландыру мен автоматтандыруды іске қосу үшін құрылады. ( investor.nvidia.com )
Бұл бір жағынан шынайы инженерлік жол картасы, бір жағынан экожүйелік күш қозғалысы - себебі егер жасанды интеллект телекоммуникация желілерінің операциялық жүйесіне айналса, онда жасанды интеллект есептеулері мен құралдарын жеткізетін компаниялар ақшаға өте жақын болады. ( investor.nvidia.com )
🛰️ Qualcomm агенттік RAN басқару қызметін және жасанды интеллект жақсартуларын іске қосты ↗
Qualcomm RAN үшін «агенттік» желіні басқару бұрышын іске қосты - негізінен автоматтандыруды басқару тақталарынан тыс әрекеттерді жасай алатын жүйелерге (шектеулер шеңберінде... немесе солай болып көрінеді) итермелейді. Ол ешқашан нақты операцияларға түспейтін пилоттық жүйелерден шаршаған телекоммуникация операторларына бағытталған. ( qualcomm.com )
Бұл астарлы мәтін былайша өрбиді: желілер адамдар үшін микробасқару үшін тым күрделі болып барады, сондықтан біз бәріміз бағдарламалық жасақтаманың кемені көбірек басқаруына мүмкіндік беруге ыңғайсыз болып көрінеміз. Мен толықтай ыңғайсызмын, бірақ түсінемін. ( qualcomm.com )
Жиі қойылатын сұрақтар
OpenAI компаниясының Пентагонмен келісімі іс жүзінде не нәрсеге мүмкіндік береді
OpenAI құрылымы бойынша, бұл келісім нақты «қызыл сызықтармен» және қорғаныс қоршауларымен тығыз ауқым ретінде орналастырылған. Компания пайдалану тек бұлтқа негізделгенін баса айтады және OpenAI қызметкерлерін қосымша сенімділік үшін хабардар етеді. Пікірталас шектеулердің бар-жоғы туралы емес, бұл шектеулердің күнделікті пайдалануда жеткілікті күшке ие екендігі туралы.
Неліктен адамдар OpenAI мен Пентагон келісіміндегі бақылау тәуекелдерінен алаңдайды?
Негізгі мәселе - «жария» деректердің қалай анықталатыны және қандай қорғаныс құралдарының жаппай жинауға немесе қайта пайдалануға шынымен кедергі келтіретіні. Сыншылар келісімшарттар қағаз жүзінде қатаң болып көрінуі мүмкін, ал іске асыруда бос орын қалдыруы мүмкін деп санайды. Axios ұқсас алаңдаушылықтар антропогендік факторларға қатысты бұрынғы келіссөздерде, әсіресе ірі көлемде жинау және кейінгі пайдалану туралы айтылған кезде пайда болғанын атап өтеді.
OpenAI-дің «қызыл сызықтары» және олардың орналастыруды қалай қалыптастыратыны
Жарияланған мақала жүйені не үшін пайдалану керек және не үшін пайдаланбау керектігі туралы шекараларды белгілеу арқылы түсініксіздікті азайтуға бағытталған. Көптеген орналастыруларда «қызыл сызықтар» орындалатын бақылаумен, аудитпен және бұзушылықтар үшін нақты жауапкершілікпен үйлескенде жақсы жұмыс істейді. Күмәндану көрсетілген қағидаттар мен үкіметтің жұмыс процестерінің уақыт өте келе қаншалықты күрделі болуы мүмкін екендігі арасындағы алшақтықтан туындайды.
«Шешімдерді қолдау» жасанды интеллектті әскери мақсатта қолдануға жол берілмейтіндей қалай ерекшеленеді
«Шешім қабылдауды қолдау» көбінесе соңғы шешім қабылдамай жоспарлауға, талдауға немесе жұмыс процесіне көмектесуді білдіреді. Даулы мәселе, әсіресе жүйелер операцияларға еніп, қандай нұсқалардың қарастырылатынын қалыптастырған кезде, шекара бұлыңғырлануы мүмкін. Guardian есебінде құралдар құбыр ішінде тұрғаннан кейін мемлекеттік саясат туралы мәлімдемелер күнделікті операциялық қолданыстан қалай алшақтауы мүмкін екендігі атап көрсетілген.
«Жасанды интеллект негізінде жасалған 6G» дегеніміз не және ол телекоммуникация үшін неге маңызды?
NVIDIA компаниясының ұсынысы бойынша, болашақ желілер тек жасанды интеллектті қосымша ретінде ғана іске қосып қоймайды; олар жасанды интеллектке негізделген оңтайландыру және автоматтандыруды негізгі құбырлар ретінде жобалайды. Бұл маңызды, себебі ол құндылық жинақталатын жерге - есептеу, оркестрлеу және құралдарды қамтамасыз ететін платформаларға ауысады. Сондай-ақ, желінің жұмыс істеуі бағдарламалық жасақтамаға бағытталған кезде операциялық және қауіпсіздік мәселелерін тудырады.
«Агентті» RAN басқару дегеніміз не және ол қандай компромисске әкеледі?
Qualcomm компаниясының «агенттік» бұрышы желілік операцияларды басқару тақталарынан белгілі бір шектеулер шеңберінде әрекеттер жасай алатын жүйелерге көшу ретінде қарастырады. Желілер микробасқару үшін тым күрделі болып келе жатқандықтан, тоқтап қалған пилоттық жүйелердің азаюы және операциялардағы автоматизацияның артуы уәде етіледі. Бұл келісім сенімде: көбірек автономия тиімділікті арттыра алады, бірақ сонымен бірге қатаң бақылау, мониторинг және қауіпсіз резервтік режимдерге деген қажеттілікті арттырады.