Қысқа жауап: ServiceNow CoreAI компаниясының AutoSynthData жүйесі агенттердің сәтсіздіктері мен мұғалімдердің жетістіктерін тексерілген синтетикалық SFT тапсырмаларына айналдырады, бұл кәсіпорындарға тек кең ауқымды бағалаулар ғана емес, қоршаған орта құзыреттілігі қажет болған кезде қажет. Ол мүмкіндіктерге арналған карталардағы олқылықтарды тазартады, тексерілетін жұмысты көбейтеді, содан кейін дәл баптау алдында сапаны бағалайды. Автор хабарлағандай, EnterpriseOps Gym мұғалімнің күші, тексеруші сапасы және қоршаған ортаға деген адалдық сәйкес келсе, нәтиже береді.
Негізгі қорытындылар:
Мүмкіндік карталары: Генераторлар түпнұсқа идентификаторларды ешқашан көрмеуі үшін ақаулықтарды карталарға зарарсыздандырыңыз.
Тексеруші аудиті: мутацияланған қате нәтижелерді қабылдамайтын SQL соңғы күй тексерулерін артық көреді.
Қиындық диапазоны: Тек мақсат сирек шешетін және мұғалім әдетте орындайтын тапсырмаларды ғана жаттықтырады.
Адами шолу: Қайта оқытудан бұрын жоғары тәуекелді саясат пен қайтымсыз әрекеттерді адами шолудан өткізіңіз.
Шекараны жылжыту: SFT-ден кейін, қайта бағалаңыз және мақсатты фазаны қалған саңылауларға қарай жылжытыңыз.
Кәсіпорынның жасанды интеллект агенттері жалпы білімнің жетіспеушілігінен сирек сәтсіздікке ұшырайды. Олар ортаның ерекшелігіне байланысты сәтсіздікке ұшырайды: билет саясаты, схеманың ерекшеліктері, құрал келісімшарттары, бастапқы дерекқорлар, білім мақалалары және оқулықтағы демонстрацияларға ұқсамайтын жүйелераралық жұмыс процестері. Ашық эталондарда жақсы баға алған модель келесі қадам өзгерту терезесін, CMDB қатынасын немесе еркін сөйлесудің орнына соңғы күйді тексеретін тексерушіні құрметтеуі керек болған кезде де тоқтап қалуы мүмкін.
ServiceNow CoreAI / ServiceNow-AI бұл олқылықты тікелей жою үшін AutoSynthData жариялады . Аталған автор Эсаккивель Эсаккиража мақсатты агенттің сәтсіздіктерін - мұғалімнің күштірек жетістіктерімен бірге - кәсіпорын ортасына бейімделген тексерілген синтетикалық оқыту тапсырмаларына айналдыратын құбырды сипаттайды. Мәселе көбірек чат журналдарын жинауда емес. Бұл жаңа жағдайларда бірдей мүмкіндікті жүзеге асыратын ауыр, тексерілетін жұмысты көбейту, осылайша бақыланатын дәл баптау ортаға тән олқылықтарды жаба алады.
Бұл мақалада негізгі идея, тапсырмаларды абстракциялау, генерациялау және сапаны бақылау циклі, ортақ архитектура және EnterpriseOps Gym гибридті және ITSM параметрлеріндегі автор хабарлаған нәтижелер қарастырылады. Бұл зерттеу сипаттаған нәрсеге негізделген: кез келген кәсіпорын кенеттен шешіледі деген мәлімдеме емес, синтетикалық тапсырмалардың қозғалмалы оқу бағдарламасы.
Неліктен қоршаған ортаға қатысты құзыреттілік кең мүмкіндіктерден асып түседі
Кәсіпорындарға өз ортасында - жүйелерінде, ережелерінде және деректер күйінде жұмыс істейтін агенттер қажет. Кең мүмкіндіктер қоршаған орта құзыреттілігімен бірдей емес. Агент IT қызметтерін басқарудың әдетте қалай жұмыс істейтінін біле тұра, белгілі бір ауысуларға тыйым салатын жергілікті саясатты немесе тиісті кестені тек алғышарт жазбасы болғаннан кейін ғана жаңартатын құралды жіберіп алуы мүмкін.
Жеке сәтсіздіктер ақпараттық, бірақ жаттығу деректері сияқты аз. Бір бұзылған траектория әлсіздікті көрсетеді; ол модельге вариация жағдайында қалпына келуді үйрететін ондаған жақын жағдайларды қамтамасыз етпейді. Командаларға бірдей мүмкіндікті әртүрлі жүзеге асыратын, ортада орындалатын, пайдаланушы сұрағандай шынайы сезінетін және нәтижелерді тексеруге қарсы тексерілетін көптеген жаңа тапсырмалар қажет.
Бұл AutoSynthData жүйесінің жобалау қысымы. Сәтсіздіктер мүмкіндік карталары үшін сигналдарға айналады. Карталар жаңа тапсырмалардың генераторларына айналады. Күшті мұғалім сәтті траекторияларды көрсетеді. Сүзгілер мен тексерушілер бақыланатын дәл баптау жиынтығына не кіретінін шешеді. Оқытудан кейін бағалау шекараны қалған олқылықтарға қарай жылжытады. Цикл бір реттік деректерді тастау емес, оқу бағдарламасының пішінінде болады.
Мамандар үшін құрылымдау маңызды. Егер сіз тек сәтсіз сұрауларды сақтасаңыз, сіз сол нақты нысандар мен сөз тіркестеріне шамадан тыс сәйкестену қаупін тудырасыз. Егер сіз тек шектеусіз синтетикалық сұраулар жасасаңыз, сіз мүмкін емес, шындыққа жанаспайтын немесе тексеруге келмейтін тапсырмаларды тудырасыз. AutoSynthData осы шектеулердің арасында орналасқан: сәтсіз болған нәрсені мүмкіндік сипаттамасына бейімдеңіз, содан кейін беткі пішін мен басқарылатын өлшемдерді өзгерте отырып, негізгі өзекті сақтайтын тапсырмаларды қайта жасаңыз.
Практикалық тапсырма формасы: жүйе, шақыру, тексеруші
Агенттік жұмыс үшін жұмыс істейтін абстракция: тапсырма жүйенің сипаттамасына, пайдаланушы сұрауына және тексерушіге. Әрбір бөлік синтетикалық деректерді негізді және сенімді ұстайтын шектеулерге ие.
Жүйелік сипаттама шектеулерді, саясаттарды және бастапқы күйді қамтиды - мысалы, дерекқор тұқымдары және білім мақалалары. Ол қолжетімді құралдармен және күймен үйлесімді болып қалуы керек. Құрал келісімшарттарын немесе тұқымдық реализмді елемейтін кездейсоқ қиындық шектеулері дұрыс емес сабақ беретін сынғыш тапсырмаларды тудырады.
Пайдаланушы сұрауының сапасы үш линзадан тұрады. Мүмкіндік жарамдылық траекторияның бар-жоғын сұрайды. Реализм пайдаланушыдан мұны сұрай алатынын сұрайды. Қиындық мақсатты сенімді түрде шешетін нәрсені емес, тапсырманың агенттің қазіргі әлсіздігін көрсететінін сұрайды. Мақсат үшін маңызды емес сұрау оқу бюджетін босқа жібереді; мүмкін емес сұрау бағалау сенімін босқа жібереді.
Тексеру сапасы тұрақтылыққа, сенімділікке және толықтыққа байланысты. Тым әлсіз және әлсіз траекториялар өтіп кетеді. Бір траекторияға тым шектеу қойылса, жарамды балама шешімдер сәтсіздікке ұшырайды. Кәсіпорын параметрлері көбінесе SQL негізіндегі немесе күйге негізделген нәтиже тексерулерін қалайды, себебі олар агенттің нақты токен жолын емес, агент әрекет еткеннен кейін әлемді бағалайды.
AutoSynthData осы триадаға сүйенеді, сондықтан жасалған жұмыс тұрақты болып қалады. Генераторлар еркін жүзетін викториналарды ойлап таппайды. Олар орта адаптерінде орындалатын және қажетті соңғы күй қасиеттеріне мән беретін тексерушілермен бағаланатын тапсырмаларды жасайды.
Диагностикалық бағалаудан бастап мүмкіндік сипаттамаларына арналған карталарға дейін
Бұл кезең мақсатты агентті диагностикалық бағалаудан және қоршаған ортадағы күшті мұғалімді анықтаудан басталады. Қатарлас жүргізілген жұмыстар мақсаттың қай жерде сәтсіздікке ұшырайтынын және мұғалімнің қай жерде табысқа жететінін көрсетеді. Бұл қарама-қарсы жағдайлар оқу бағдарламасын жобалау үшін шикізат болып табылады.
Келесі кезекте зарарсыздандырылған мүмкіндіктерге арналған карталарға дистилляция жасалады . Картада сынақтан өтіп жатқан мүмкіндік, тиісті құралдар немесе жұмыс процесінің пішіні, мақсат сәтсіз аяқталған және мұғалім сәтті болған кезде қажетті соңғы күй қасиеттері және жаңа тапсырмалар ойлап табылған кезде өзгеруі мүмкін өлшемдер көрсетіледі. Ең бастысы, генератор бастапқы нұсқауларды, нысандарды, траекторияларды немесе тексеруші мәліметтерін алмайды - тек карталарды алады.
Бұл залалсыздандыру - шамадан тыс жүктемеге қарсы әдейі жасалған қадам. Егер генератор дәл сәтсіз билет нөмірлерін, білім мақаласының идентификаторларын немесе мұғалімнің іздерін көрсе, сол эпизодты қайталап айтуға азғырылады. Карталар абстракцияны мәжбүрлейді: жатталған мысалды емес, басқарылатын вариация жағдайындағы мүмкіндікті үйретеді.
Карталар пайда болғаннан кейін, жүйе олардан жаңа тапсырмалар жасайды. Содан кейін мұғалім бақыланатын дәл баптаудың сәтті траекторияларын көрсетеді. Бұл демонстрациялар еркін кеңестер емес; олар оқу бағдарламасы қамқорлық жасайтын тексеруден өткен қоршаған ортаға негізделген табыстар.
Екі фазалық құрылым масштабы. Мақсатты фаза әлсіз агент үзілген жерге жақын орналасқан ең жоғары сигналдық тапсырмалар - саңылаулардың айналасындағы негізгі тексерілген үлгілерге бағытталған. Көбейту фазасы қабылданған нысаналардың жаңа нұсқаларын жасайды. Көбейтілген үлгілер көбейту раундтарын одан әрі енгізе алмайды, бұл дрейфті шектейді. Бұл ереже кішкентай, бірақ маңызды: шектеусіз рекурсивті вариация карта аталған мүмкіндіктен ауытқып кетуі мүмкін.
Ортақ контроллер, орта адаптері және қозғалатын шекара
Архитектура тұрғысынан AutoSynthData ортақ контроллерді және орта адаптерін. Контроллер диагностиканы, карталауды, генерацияны, мұғалімдердің демонстрацияларын, сапа қақпаларын және топтық шолуды ұйымдастырады. Адаптер бұл қадамдарды нақты кәсіпорынның құм жәшігіне - құралдарға, күйге, саясаттарға және тексерушілерге - қосады, сондықтан бірдей басқару циклі оқу бағдарламасының логикасын нөлден қайта жазбай, әртүрлі салаларға бағыттала алады.
Бақылаумен жүргізілген дәл баптаудан кейін, құбыр қайта бағаланады. Содан кейін оқу бағдарламасы қалған олқылықтарға қарай жылжиды: статикалық деректер жиынтығы емес, қозғалатын шекара. Жұмыста сипатталған эксперименттер бақыланатын дәл баптауға бағытталған. Сол цикл кейінірек күшейтуді оқытуды қолдай алады; бұл бағыт аяқталған деп мәлімделмейді, жоспарланған деп белгіленеді.
Кәсіпорын топтары үшін архитектуралық сабақ модульдік болып табылады. Контроллерлер бір билет схемасын қатаң кодтамауы керек. Адаптерлер тексерушілер мағыналы бола алатындай күй мен құралдың дәлдігін жеткілікті түрде көрсетуі керек. Оқу бағдарламасы бағалау нәтижелерін бір реттік бағалау тақтасы ретінде емес, келесі кіріс ретінде қарастыруы керек.
EnterpriseOps Gym - бұл тәсіл көрсетілген орта. Бұл 8 сала бойынша шамамен 1150 сарапшы басқарған тапсырмалар, шамамен 512 құрал, шамамен 164 дерекқор кестелері, контейнерленген орындау, SQL негізіндегі нәтижелерді тексеру, саясатпен басқарылатын операциялар, гибридті кросс-домен сценарийлері, іске аспау және бас тарту тестілеуі және ұзақ көкжиек күйіндегі траекториялары бар ірі кәсіпорын агенттерінің орындығы. AutoSynthData сол спортзалдың ойлап тапқаны ретінде ұсынылмайды; спортзал - синтез циклі үшін стресс-тестілеу орны.
Синтетикалық тапсырмалардың сенімділігін қамтамасыз ететін үлгі деңгейіндегі сапаны бақылау
Қақпасыз генерациялау синтетикалық агент деректерінің қалай дұрыс емес болатынын көрсетеді. AutoSynthData бірнеше қосымша тексерулермен үлгі деңгейіндегі сапаны бақылауды сипаттайды.
Шешімнің қиындық сүзгісі мақсат үшін қиын және мұғалім үшін шешілетін тапсырмалар жиынтығын бағыттайды. Сипатталған конфигурация мақсаттың үш сынақтың ең көбі біреуінде шешетін тапсырмаларына басымдық береді, ал мұғалім үш сынақтың кем дегенде екеуінде сәтті болады. Бұл диапазонда бақыланатын демонстрациялар әлсіз модельде жоқ нәрсені үйрете алады.
Оң тексеру сілтеме траекториясының тексерушіден өтуін талап етеді. Теріс тексеру мутацияланған қате нәтижелердің сәтсіз болуын талап етеді. Бірге олар тексерушінің қабылдау және қабылдамау тараптарын қысыммен тексереді. Егер тек оң мәндер тексерілсе, рұқсат етілген тексеруші қоқысты қабылдай алады. Егер тек теріс мәндер тексерілсе, тым тығыз тексеруші жарамды жұмысты қабылдамауы мүмкін.
Қайталау шегі бар сын және жөндеу циклі әрбір сәтсіз тапсырманы бірден алып тастаудың орнына, сәтсіз аяқталған тапсырмаларды түзетуге тырысады. Қайталау шектеулері маңызды: шексіз жөндеу тек тексеру тізімінен өту үшін жасанды шектеулер ойлап табуы мүмкін.
Топтық деңгейдегі мета-шолу жиынтық бойынша қамтуды, әртүрлілікті, артықшылықты және сәтсіз мақсаттарды қарастырады. Үлгі қақпалары жеке элементтердің дұрыстығын қамтамасыз етеді; топтық шолу оқу бағдарламасын бір тар сәтсіздік режимінде кластерлеуге немесе қайталанатындарға жақын клондауға жол бермейді.
Бұл басқару элементтері құбырдың көлемін сәйкестіктің орнына қарастырмай, мыңдаған үлгілерді жасауға сағаттар жұмсай алатынын түсіндіреді. Жылдамдық сала мен мұғалімнің мөлшеріне байланысты өзгереді, бірақ сапаны бақылау тарихы тұрақты: қиындық диапазоны, оң және теріс тексеру, шектеулермен жөндеу, содан кейін мета-шолу.
Шикі ақаулар және карталар және тексерілген SFT жиынтықтары
Әрбір артефакттың не үшін пайдалы екенін салыстыру көмектеседі. Шикі ақаулық журналдары диагностикалық болып табылады. Мүмкіндік карталары генеративті келісімшарттар болып табылады. Тексерілген бақыланатын дәл баптау жиынтықтары - сіз іс жүзінде жаттығатын нәрсе.
| Артефакт | Құрамында не бар | Күш | Оқшауланған жағдайда қауіп |
|---|---|---|---|
| Шикі ақаулық журналдары | Сұрақтар, күйлер, бұзылған траекториялар, мұғалімнің табысымен қарама-қайшылықтар | Тірі ортадағы нақты олқылықтарды анықтайды | Үлгілер тым аз; нысандар мен сөз тіркестерін шамадан тыс толтыру оңай |
| Мүмкіндіктерге арналған карталар | Мүмкіндік, құралдар немесе жұмыс процесі, сәтсіздік немесе сәттілік контрасты, соңғы күй қажеттіліктері, айнымалы өлшемдер | Түпнұсқаларды ағып кетпейтін генераторларға арналған зарарсыздандырылған абстракция | Сапасын тексерусіз карталар әлі де мүмкін емес немесе маңызды емес тапсырмаларды бере алады |
| AutoSynthData тексерілген SFT жинағы | Жаңа тапсырмалар, сондай-ақ қиындық, тексеру және қайталау деңгейлерінен өткен мұғалімдердің демонстрациялары | Реализм, орындылық және нәтижелерді тексеру арқылы масштабтау | Мұғалімнің күшіне, тексерушінің сапасына, қоршаған ортаға адалдыққа әлі де байланысты |
EnterpriseOps Gym сайтындағы Hybrid және ITSM суреттерінде автор хабарлаған жұмыстарда мақсат ретінде Gemma-4-26B-A4B-it қолданылды. Hybrid бұл мақсатты Qwen3.8-27B мұғалімімен жұптастырды және шамамен 18 сағат ішінде шамамен 2000 гибридті үлгіні, ең жақсы бақылау нүктесі 5-ші кезеңде болды. Орташа Pass@1 7,2 пайыздық пунктке өсті - шамамен 35 пайыз салыстырмалы - тексерушінің табысы 63,01 пайыздан 68,55 пайызға дейін өсті, бұл Pass@1 алшақтығының эталондық моделіне дейінгі шамамен 59 пайызын жапты.
ITSM мұғалім ретінде дәл сол мақсатты DeepSeek-V4.1-Flash бағдарламасымен жұптастырды және шамамен 66 сағат ішінде шамамен 1994 үлгі, бұл ішінара мұғалімнің үлкен болуына және кейбір құбырларды оңтайландырудың әлі жүзеге асырылмағанына байланысты ұзағырақ болды. Орташа Pass@1 көрсеткіші 18,77 пайыздан 27,18 пайызға дейін өсті.
| Домен | Нысан | Мұғалім | Үлгілер және орындау уақыты | Автор хабарлаған нәтиже |
|---|---|---|---|---|
| Гибридті | Джемма-4-26B-A4B-it | Qwen3.8-27B | ~18 сағат ішінде ~2000 сынама; 5-ші кезеңдегі ең жақсы бақылау нүктесі | Орташа 1-ден өту +7.2 пайыздық пункт (~35% салыстырмалы); тексерушінің сәттілігі 63.01%-дан 68.55%-ға дейін; 1-ден өтудің анықтамалыққа дейінгі алшақтығының ~59%-ы жабылды |
| ITSM | Джемма-4-26B-A4B-it | DeepSeek-V4.1-Flash | ~66 сағат ішінде ~1994 үлгі | Орташа өту деңгейі 18,77%-дан 27,18%-ға дейін |
Бұл сандарды сынақтан өткен домендер бойынша осы спортзал бойынша компанияның зерттеу нәтижелері ретінде оқыңыз - тәуелсіз үшінші тарап көшірмесі ретінде емес және әмбебап кәсіпорын кепілдігі ретінде емес. Мұғалімнің күші, тексерушінің сапасы және қоршаған ортаға адалдық қатар тұрған жерде пайда тікелей болады.
Мамандар циклден нені көшіруі керек
Егер сіздің стегіңіз ServiceNow зерттеу құбыры болмаса да, үлгі ауысады. Өндірістік нысананы және сенімді құм жәшігінде күшті мұғалімді жұптастыру арқылы бағалаудан бастаңыз. Контраст сәтсіздіктерін идентификаторлар мен траекторияларды жоятын мүмкіндік карталарына айналдырыңыз. Қажетті соңғы күй қасиеттерін сақтай отырып, рұқсат етілген өлшемдерді өзгертетін тапсырмаларды жасаңыз. Мұғалімге табыстарды көрсетіңіз. Қиындық диапазондары бар қақпа, оң және теріс тексеру, шектеулі жөндеу және топтық әртүрлілікті шолу. Шекті дәл баптаңыз, қайта бағалаңыз және жылжытыңыз.
Тексеруші дизайнына ерекше назар аударыңыз. EnterpriseOps Gym стиліндегі SQL нәтижелерін тексеру және саясатпен басқарылатын операциялар чат рубрикаларының өздігінен күйлік жұмыс үшін әлсіз екенін көрсетеді. Егер тексерушіңіз мутацияланған қате нәтижелерді дұрыс қорытындылардан ажырата алмаса, синтетикалық шкала шуды күшейтеді.
Сондай-ақ көбейту ережесінің рухын құрметтеңіз: қабылданған нысаналардың нұсқалары тексерілген өзектерге оралмай, шексіз көп нұсқаларды егіп алмауы керек. Дрифт тыныш. Экзотикалық шектеулерді біртіндеп ойлап табатын оқу бағдарламасы бастапқы мүмкіндікті жеткіліксіз дайындықтан өткізіп, таяз сүзгілерден өтуі мүмкін.
Соңында, гибридті салааралық жұмысты бірінші дәрежелі стресстік жағдай ретінде қарастырыңыз. Күнделікті пайдаланушылар бір құрал-саймандар жиынтығында қалмайды. Гибридті тапсырмалар, ұзақ мерзімді траекториялар және бас тарту немесе мүмкін еместік сынақтары қоршаған орта құзыреттілігінің көрінетін немесе қатты сәтсіздікке ұшырайтын жерлері болып табылады.
Ескертулер, шектеулер және пайданы мұқият оқу
EnterpriseOps Gym сайтындағы автор хабарлаған нәтижелер жалпы кепілдік емес, ақпараттық сигналдар болып табылады. Жарияланған Hybrid және ITSM артықшылықтары сипатталған орнату бойынша сол домендер мен модель жұптарына қолданылады. Басқа домендер, әлсіз мұғалімдер, шулы тексерушілер немесе таяз орта сенімділігі пайданы азайтуы немесе жоюы мүмкін.
Сапа маркетингтік жылтырлықтың ешқайсысы аттап өте алмайтын үш тірекке байланысты. Мұғалімнің күші демонстрациялар үшін шекті белгілейді. Тексеру сапасы белгілер мен сүзгілердің сенімділігін белгілейді. Қоршаған ортаның сенімділігі үйренген мінез-құлықтың өндірістік жүйелермен, ережелермен және деректер күйімен байланыста аман қалатынын немесе қалмайтынын анықтайды.
AutoSynthData тәжірибелері бақыланатын дәл баптауға баса назар аударады. Нығайту бойынша оқыту есеп берілген жұмыста жеткізілгеннен гөрі жоспарланған сол циклды кейінірек пайдалану мүмкіндігі ретінде атап өтіледі. Оқырмандар оқу бағдарламасына дайын деректер қозғалтқышын аяқталған RL оқыту талабымен шатастырмауы керек.
Оқырмандар синтез құбырын үстелдің өзімен шатастырмауы керек. EnterpriseOps Gym таңдалған тапсырмаларды, құралдарды, кестелерді, контейнерлеуді және тексеру материалын ұсынады. AutoSynthData сәтсіздіктерді жаттығу алтынына айналдыру үшін осындай ортаны пайдаланады. Екі бөлікті де дәл көрсетіңіз: спортзал агенттерді баса көрсетеді; құбыр анықталған олқылықтардан үйренуге болатын тапсырмаларды көбейтеді.
Сондай-ақ, құмсалғыштың ішінде есептеу және күнтізбелік уақытта тегін түскі ас жоқ. Гибридті синтез шамамен екі мың үлгі үшін сағаттар бойынша аяқталды; ITSM ауыр мұғалімдермен және бұрынғы құбыр желісімен ұзағырақ уақыт алды. Командалар әрбір оқу бағдарламасы қадамынан кейін мұғалімнің қорытындысын шығаруға, сыни немесе түзету әрекеттерін қайталауға және қайта бағалауға бюджет бөлуі керек.
Кәсіпорын агенттік топтарына арналған оқу бағдарламасы бойынша ойлау
AutoSynthData-дағы ең терең идея таза генеративті емес, оқу бағдарламасы. Сәтсіздіктерді диагностикалау. Карталар абстрактілі. Буын көбейту. Сапа бақылауы тексеруі тексеруді растайды. SFT мақсатты жаңартады. Қайта бағалау шекараны жылжытады. Бұл тізбек агентті жетілдіруді бірыңғай офлайн іздердің дампының орнына қоршаған ортаға негізделген сабақтар сериясы ретінде қарастырады.
Оқу бағдарламасы бойынша ойлау көшбасшылардың күш-жігерді бөлу тәсілін өзгертеді. Тек көбірек билеттер немесе көбірек адами аннотациялар сұраудың орнына, қандай мүмкіндіктер вариация кезінде әлі де сәтсіздікке ұшырайтынын, сол мүмкіндіктердің таза соңғы күй қасиеттеріне ие екенін және күшті мұғалім оларды сенімді түрде көрсете ала ма деп сұраңыз. Егер мұғалім жиі жетістікке жете алмаса, синтетикалық SFT сенімсіз мінез-құлықты үйретеді. Егер соңғы күй қасиеттері анық емес болса, тексерушілер жарамды стратегиялармен дауласады.
Бұл сондай-ақ табыс туралы айту тәсіліңізді де өзгертеді. Гибридті модельдегі анықтамалық модельге Pass@1 алшақтығының бір бөлігін жабу немесе авторлар хабарлағандай, ITSM Pass@1 деңгейін он бес жастан жиырма жастың жоғарғы деңгейіне көтеру өлшенген қоршаған орта құзыреттілігіндегі ілгерілеу болып табылады. Бұл әрбір жұмыс процесінің, әрбір саясаттың немесе әрбір бас тарту жағдайының шешілгенінің дәлелі емес. Жылжымалы шекаралық тілді сақтаңыз: қалған алшақтықтар кейінгі ойдан шығарылған слайд емес, келесі мақсатты кезеңге айналады.
Бағдарламаны жобалау үшін бұл циклды адами шолумен жұптастырыңыз, мұнда тәуекелдер жоғары - қауіпсіздік саясаты, қайтымсыз әрекеттер, реттелетін деректер - автоматтандырылған қақпалардың нақты көрсетілген күй тексерулері бойынша көлемді тасымалдауына мүмкіндік беріңіз. Синтетикалық деректер қоршаған орта SQL сияқты анықтықпен «иә» немесе «жоқ» деп айта алған кезде жақсы жұмыс істейді. Табыс субъективті талғамға байланысты болған кезде қиындықтар туындайды.
Қиындық, реализм және бас тарту туралы дизайн жазбалары
Қиындық деңгейіндегі нысанаға алу екінші рет қарастыруды қажет етеді. Нысананың уақыттың ең көбі үштен бір бөлігінде шешетін тапсырмаларына қолдау көрсету оқытуды маңызды емес нәрселерден аулақ ұстайды. Мұғалімнен уақыттың кем дегенде үштен екісінде табысқа жетуді талап ету демонстрацияларды тиын лақтырудан аулақ ұстайды. Бұл жолақ қиындық пен үйрену қабілеті арасындағы практикалық ымыраға келу болып табылады.
Реализм жұмсақ критерий болып қала береді, бірақ әлі де маңызды. Кәсіпорын пайдаланушылары өз рөлдері мен жүйелеріне сәйкес келетін нәрселерді сұрайды. Тек қаттылықпен басқарылатын генераторлар ешбір оператор сұрамайтын күрделі көп шектеулі жұмбақтарды ойлап таба алады. Айнымалы өлшемдерді тізімдейтін мүмкіндік карталары көмектеседі, бірақ адамдар немесе мета-шолу әлі де сюрреалистік шақыруларды ұстауы керек.
бас тарту және мүмкін еместік тестілеуікомандаларға құзыреттілікке «жоқ» деп айтуды қосатынын еске салады. Тек орындалатын тапсырмалар үшін оңтайландырылған құбыр бас тартуды оқытуды төмендетуі мүмкін. AutoSynthData стиліндегі циклдарды кеңейткен кезде, дұрыс соңғы қасиет тек дерекқор күйінің сәтті мутациясы ғана емес, саясат бойынша қауіпсіз төмендеу болып табылатын карталарды қосыңыз.
Ұзақ көкжиектегі күй траекториялары тағы бір дизайн ескертпесін тудырады. Мұғалімнің демонстрациялары көптеген құрал шақыруларында үйлесімді болуы керек. Тек соңғы кесте жолын тексеретін тексерушілер аралық саясат үзілістерін жіберіп алуы мүмкін. Тексеруші дизайнындағы толықтық дегеніміз - сол мүмкіндіктің табысын шынымен анықтайтын қасиеттерді қамту - соның ішінде тек соңында ғана емес, сонымен қатар бүкіл кезең бойы сақталуы тиіс шектеулерді қамту.
Қорытынды қорытынды
ServiceNow CoreAI / ServiceNow-AI компаниясынан алынған және Эсаккивель Эсаккираджаның көпшілікке арналған мақаласында жазылған AutoSynthData - бұл мақсатты агенттің сәтсіздіктері мен мұғалімдердің жетістіктерін кәсіпорын орталарына арналған тексерілген синтетикалық оқыту тапсырмаларына айналдыратын құбыр. Ол сәтсіздіктерді зарарсыздандырылған мүмкіндік сипаттамалары карталарына абстракциялайды, түпнұсқа нұсқауларды немесе траекторияларды жібермей жаңа тапсырмалар жасайды, мұғалімдердің демонстрацияларын жинайды және бақыланатын дәлдеу алдында үлгі деңгейіндегі және топтық деңгейдегі сапаны бақылауды қамтамасыз етеді.
Практикалық ойлау моделі - бұл жүйелік сипаттама, пайдаланушы сұрауы және тексеруші ретіндегі тапсырма - орындылығы, реализмі және қиындығы шиеленіспен, ал тым босаңсымаған немесе бір жолға бекітілмеген тексерушілермен. Мақсатты, содан кейін фазаларды көбейту, көбейтілген үлгілер үшін қосымша тұқымсыз ереже, ортақ контроллер және орта адаптері және SFT-ден кейінгі қайта бағалау қалған саңылаулар үстінде қозғалатын шекара жасайды.
EnterpriseOps Gym сайтында Gemma-4-26B-A4B-it және Qwen3.8-27B қолданылған авторлық гибридті нәтижелер шамамен он сегіз сағат ішінде шамамен екі мың үлгіні көрсетеді және маңызды Pass@1 және verifier-success көрсеткіштерін арттырады, бұл анықтамалық модельге дейінгі алшақтықтың үлкен бөлігін жабады. DeepSeek-V4.1-Flash мұғалімі бар ITSM ұзақ мерзімді перспективада шамамен 1994 үлгіде Pass@1 көрсеткішінің 18,77 пайыздан 27,18 пайызға дейін өскенін көрсетеді. Бұл көрсеткіштерді мұғалімге, тексерушіге және қоршаған ортаның сенімділігіне байланысты нақты салалар бойынша зерттелген сигналдар ретінде қарастырыңыз - және күшейтуді оқытуды циклдің жоспарлы жалғасы ретінде сақтаңыз, аяқталған талап емес.
Егер сіз бір сөйлемді есіңізде сақтасаңыз: кәсіпорын агенттері сәтсіздіктер күнделікті жұмыс істеуі керек жүйелердегі абстракцияланған, көбейтілген, тексерілген сабақтарға айналған кезде жақсарады - командалар сол бұзылған билетті қайта ойнаған кезде емес.
Практикалық мысал: Қатып қалған спортзал стиліндегі сәтсіздіктер жиынтығынан қиын ITSM жағдайларын кеңейту
Сценарий
Ұлыбританияның кәсіпорын платформасы командасы – ServiceNow стиліндегі ITSM жүйесін, өзгерту терезелерін, CMDB қатынастарын және саясатқа негізделген ауысуларды басқаратын орташа көлемді қаржылық қызметтер операциялық тобын елестетіп көріңіз – өндіріске ұқсас агент бірдей жұмыс класында үнемі сүрініп отырады: бекіту алғышартын сақтауы керек кестеаралық жаңартулар, жергілікті өзгерістердің тоқтап қалуымен қайшы келетін білім мақалаларын іздеу және ITSM жүйесін көршілес операциялық құралдарға біріктіретін гибридті сұраулар.
Олар EnterpriseOps Gym стиліндегі жеке жиынтықты (контейнерленген құм жәшігі, SQL нәтижелерін тексеру, егілген кестелер, саясат ережелері) қатырады, сондықтан ұпайлар апта сайын салыстырмалы болады. Диагностикалық жұмыстар мақсатты агенттің күшті мұғалімнің табысқа жеткен жерде сәтсіздікке ұшырағанын көрсетеді. Басшылық бірдей билет нөмірлері мен нысан идентификаторларын қайта ойнатпай, көбірек оқыту сигналын қалайды. AutoSynthData (немесе зерттеу құбыры олардың стегінде жабылған болса, баламалы синтезатордан сәтсіздік циклі) - кандидат: контраст сәтсіздіктерін зарарсыздандырылған мүмкіндік сипаттамалары карталарына айналдыру, жаңа тапсырмалар жасау, мұғалімдердің демонстрацияларын жинау, содан кейін - сыни тұрғыдан - кез келген қайта оқыту алдында синтетикалық іздерді адам шолуы.
Gym Pass@1 сайтына ештеңе өздігінен жіберілмейді. Синтезатор деректері тегін шындық емес, үміткер бағдарламасы ретінде қарастырылады.
Көмекшіге не қажет
- Мұздатылған Gym стиліндегі орта адаптеріне қол жеткізу: құралдар, бастапқы күй, саясаттар және SQL (немесе баламалы күйге негізделген) тексерушілер.
- Жұптастырылған бағалау журналдары: мақсатты сәтсіздіктер мұғалімдердің бірдей тапсырмалардағы жетістіктерімен салыстырылды.
- Бастапқы сұрауларсыз, нысандарсыз, траекторияларсыз немесе тексерушінің ішкі элементтерінсіз мүмкіндікті, құралдарды/жұмыс процесінің пішінін, сәтсіздік/табысты контрастты, қажетті соңғы күй қасиеттерін және рұқсат етілген вариация өлшемдерін көрсететін карта схемасы.
- Құм жәшігінен шыққанға немесе генератор шақыруына кірмес бұрын, PII және саясатты жою ережелері (билет идентификаторлары, пайдаланушы аттары, CI атаулары, реттелетін өрістер).
- Синтетикалық тапсырмалардың үлгілері мен мұғалімнің іздеріне арналған адам шолу кезегі (мүмкіндік, шынайылық, тексерушінің сенімділігі, бас тарту/мүмкіндіксіз жағдайлары).
- Тоқтату шарттарын анықтаңыз: нысанаға алыңыз, содан кейін фазаларды көбейтіңіз; көбейтілген үлгілер одан әрі көбейту раундтарын сеппейді.
Мысал нұсқаулығы
Платформаны оқу бағдарламасының операторына (немесе тек карталар мен шолу пакеттерін дайындайтын оркестрлік көмекшіге) бағыттаңыз - ол модельдерді қайта оқытпайды немесе насихаттамайды:
«Ағымдағы мақсатымызға және тағайындалған мұғалімге қарсы қатырылған ITSM және гибридті кесінділерде диагностикалық Pass@1 тапсырмасын орындаңыз. Мақсат сәтсіз болған және мұғалім үш сынақтың кем дегенде екеуінде сәтті болған әрбір контраст үшін зарарсыздандырылған мүмкіндік сипаттамасы картасын жасаңыз: мүмкіндікті атаңыз, тиісті құралдарды тізімдеңіз, қажетті соңғы күй қасиеттерін көрсетіңіз және басқарылатын өлшемдерді тізімдеңіз (басымдық диапазоны, байланысты CI класы, өзгерту терезесі жалаушасы, білім қақтығысының түрі). Жолақ билетінің нөмірлері, пайдаланушы идентификаторлары, CI атаулары және шикі траекториялар. Тек сол карталардан жаңа тапсырмалардың мақсатты фаза партиясын жасаңыз. Мұғалімге табыстарды көрсетуге мүмкіндік беріңіз. Қиындық диапазонын (мақсат ≤1/3, мұғалім ≥2/3), оң және теріс тексеруді және шектеулі сын/жөндеуді қолданыңыз. 5% стратификацияланған үлгілерден тұратын шолу пакетін және әрбір бас тарту/мүмкін еместік картасын жасаңыз. Екі шолушы пакетке қол қойғанша және PII скрабын тексергенше SFT бастамаңыз. Кандидат бақылау нүктесінде SFT-ден кейін, қатырылған жиынтықта және біз ешқашан генерациялау үшін пайдаланбаған күтілетін дәл сәйкестік жиынтығында қайта бағалаңыз. Қамтуды сәтсіздік класы және регрессия деңгейі бойынша есеп беріңіз. алдыңғы өндірістік бақылау нүктесі. Спортзал ұпайының өзінде жарнама жасамаңыз
Оны қалай тексеруге болады
- Бастапқы құлыптау: Қатып қалған жиынтықта сәтсіздік класы бойынша (алғышартты тапсырыс беру, өзгерту терезесінен бас тарту, гибридті кросс-құрал, білім қақтығысы) Pass@1 және верификатордың сәттілік көрсеткіштерін жазып алыңыз. Жиынтық пен тұқымдарды цикл үшін өзгермейтін етіп сақтаңыз.
- Карта аудиті: Генераторлар ешқашан түпнұсқа нұсқауларды, нысандарды немесе мұғалімнің іздерін алмайтынын - тек карталарды ғана алатынын тексеріп алыңыз.
- СБ үлгісі: Оң траекториялардың тексерушілерден өткенін және мутацияланған қате нәтижелердің сәтсіз аяқталғанын растаңыз. Мақсат үшін маңызды емес тапсырмаларды қабылдамаңыз немесе мұғалім үшін тиын лақтырыңыз.
- Адами шолу: шолушылар әрбір үлгіні орындылық, реализм және саясат қауіпсіздігі бойынша сақтау/жөндеу/жойылу ретінде белгілейді. Ортақ ішкі жиынтық бойынша шолушылар арасындағы келісімді бақылайды.
- Дәл сәйкестікті сақтау: үміткердің SFT-інен кейін, картаға түсіруге немесе генерациялауға ешқашан енгізілмеген нақты (немесе бұрын қатып қалған) тапсырмалардың сақталғанын бағалаңыз. Үстірт жаттауды анықтау үшін жаттығу тапсырмаларының парафразаларына бөлек баға беріңіз.
- Регрессия қақпасы: Алдыңғы өндірістік бақылау нүктесімен салыстырғанда нашарлаған кез келген ақаулық класы түсіндірілгенге немесе түзетілгенге дейін прогресті блоктайды.
Нәтиже
Мұнда пісіру пайыздарын ойлап таппаңыз. Өлшеу жоспарын пайдаланыңыз және жарияланған зерттеу көрсеткіштерін сілтеме жасаған кезде МАҚАЛА ТАЛАПЫ деп белгілеңіз.
Өлшеу жоспары (бұл топ не туралы хабарлауы керек):
- Сәтсіздік класын қамту: сапаны бақылаудан кейін ≥N қабылданған мақсатты кезең тапсырмаларын шығарған диагностикаланған алшақтық кластарының үлесі (алдын ала N анықтаңыз, мысалы, әр сынып үшін 20 қабылданған тапсырма).
- Ұстап қалудың дәл сәйкестігі: кандидат SFT алдында және кейін ұсталмаған ұстау кезінде 1-ден өту / тексерушінің сәттілігі (бірдей ұрықтар, бірдей тексеруші).
- Регрессия деңгейі: Pass@1 алдыңғы өндірістік бақылау нүктесімен салыстырғандағы ақаулық кластарының саны; қауіпсіздікке қатысты маңызды кластар регрессияланса, блокталады.
- Қарап шығу өнімділігі: адам шолу бумасындағы көрсеткіштерді сақтау/түзету/жою; егер төмендеу көрсеткіші күрт өссе, көбейтуді кідірту және карталарды немесе тексерушілерді түзету.
- Скраб сәтсіздіктері: шолуды растамас бұрын PII/саясат тексерулерінен өтпеген үлгілер саны (мақсат: SFT жинағына нөлдік қашу).
МАҚАЛА ТАЛАПЫ (автор EnterpriseOps Gym сайтында хабарлаған - бұл команданың өлшенген нәтижесі емес): Gemma-4-26B-A4B-it нысанасы ретінде және Qwen3.8-27B мұғалім ретінде гибридті түрде іске қосылады, шамамен 18 сағат ішінде шамамен 2000 үлгі жасады, орташа Pass@1 шамамен 7,2 пайыздық пунктке өсті, ал тексерушінің табысы 63,01%-дан 68,55%-ға дейін өзгерді. DeepSeek-V4.1-Flash мұғалім ретінде жұмыс істеген ITSM ұзақ мерзімді перспективада (~66 сағат) шамамен 1994 үлгіде орташа Pass@1 18,77%-дан 27,18%-ға дейін өзгерді. Оларды белгілі бір домендер мен жұптастырулардағы зерттелген сигналдар ретінде қарастырыңыз, бұл Ұлыбритания өндірістік стегі үшін әмбебап кепілдік емес.
Бағдарламаның иллюстрациялық формасы (өлшенген пайда емес, болжамдар): Егер команда бір ITSM циклі үшін шамамен 2000 сапаны бақылаумен бақыланатын үлгілерді қабылдаса, мұғалімдердің қорытындысын және 5% стратификацияланған іріктеу кезінде шолуды бюджеттесе және тек күту қауіпсіздікке қатысты маңызды сыныптарды кері қайтармаған кезде ғана ықпал етсе, олар тікелей айта алатын «нәтиже» - процестің жетілуі - тексерілген оқу бағдарламасы, тазартылған іздер және салыстырмалы мұздатылған жиынтық дельталары - уәде етілген пайыздық өсім емес.
Не дұрыс болмауы мүмкін
- Синтезаторды тегін шындық ретінде қарастыру: Адамның шолуын немесе теріс тексеруді өткізіп жіберу рұқсат беруші тексерушілерге үлкен қателіктерді мойындауға мүмкіндік береді.
- Нысанның ағып кетуі: Түпнұсқа билет идентификаторларын немесе мұғалімнің іздерін генераторға енгізу қайталап айтқанда, шамадан тыс толтыруға әкеледі; мұны болдырмау үшін карталар бар.
- Шексіз көбейту: Көбейтілген үлгілерді одан әрі айналдыру аталған мүмкіндіктен ауытқиды.
- Спортзал бойынша жеткізу: «мұздатылған» бағамен жеткізу бағасының 1 пайызы көтерілгендіктен, өндірістің тоқтап қалуы немесе көлеңкелі трафигі нашарлағандықтан, көтермелеу.
- Мұғалімнің әлсіз деңгейі: Егер мұғалім ≥2/3 табыс диапазонынан өте алмаса, SFT сенімсіз демонстрацияларды үйретеді.
- Анық емес тексерушілер: Мемлекеттік тексерулердің орнына чат рубрикалары еркін сөйлеуден қате нәтижелерді сәтті деп бағалайды.
- Оқытудан бас тарту: Тек толық мутацияларды оңтайландыру өзгеріс терезесін қалдырады және саясаттың тұрақсыздығы төмендейді.
- PII қашуы: Таяз скрабтан кейін нақты CI немесе пайдаланушы аттарын қайта енгізетін синтетикалық шақырулар.
Практикалық қорытынды
AutoSynthData стиліндегі циклдарды немесе егер сіздің жалға алу компанияңызда ServiceNow CoreAI құбыры қолжетімді болмаса, ақаулардан сенімді, тексерілетін ITSM жағдайларын көбейту үшін баламалы синтезатор үлгісін пайдаланыңыз. SFT алдында мүмкіндік карталарына зарарсыздандырыңыз, қиындықпен және оң/теріс тексерумен қақпа жасаңыз, PII және адам шолу үлгілерін тазалаңыз. Сәтсіздік класын қамтуды, дәл сәйкестікті және регрессия жылдамдығын өлшеңіз. МАҚАЛА ТАЛАПЫНЫҢ Спортзал көрсеткіштерін тек сыртқы зерттеу контексті ретінде келтіріңіз. Синтезатор деректері оқу бағдарламасының отыны болып табылады, кепілдік емес: үлгілерді аудиттеңіз, әділ салыстыру үшін жинақты мұздатып қойыңыз және ешқашан Спортзал ұпайын өздігінен жібермеңіз.
Жиі қойылатын сұрақтар
AutoSynthData дегеніміз не және ол қандай мәселені шешеді?
AutoSynthData – Эсаккивель Эсаккиража сипаттаған ServiceNow CoreAI / ServiceNow-AI құбыры, ол мақсатты агенттің сәтсіздіктерін мұғалімнің күшті жеңістерімен бірге кәсіпорындық ортаға арналған тексерілген синтетикалық оқыту тапсырмаларына біріктіреді. Ол кең жалпы білімнің орнына қоршаған орта құзыреттілігіне – жергілікті саясатқа, схемаларға, құралдарға және күйге – мән береді. Мәселе – бақыланатын дәл баптау сол бұзылған билетті қайта ойнатудың орнына қоршаған ортаға тән олқылықтарды түзете алатындай қиын, тексерілетін жұмысты көбейту.
Неліктен қоршаған орта құзыреттілігі кең модельдеу мүмкіндігінен ерекшеленеді?
Кәсіпорын агенттері көбінесе қоршаған ортаның өзі ерекше болғандықтан қателеседі: билет саясаты, схема ерекшеліктері, құрал келісімшарттары, бастапқы дерекқорлар және жүйелераралық жұмыс процестері. Ашық эталондарда күшті көрінетін модель өзгеріс терезесінде, CMDB қатынасында немесе соңғы күйді тексеретін тексерушіде қатып қалуы мүмкін. Кең мүмкіндіктер сіздің жүйелеріңіздің, ережелеріңіздің және деректер күйіңіздің саясат басқаратын ауысулар кезінде қалай жұмыс істейтінін білумен бірдей емес.
AutoSynthData қандай практикалық тапсырма пішінін пайдаланады?
Жұмыс істейтін пішін - тапсырма жүйе сипаттамасына, пайдаланушы сұрауына және тексерушіге тең. Жүйе сипаттамасында шектеулер, саясаттар және дерекқор тұқымдары мен білім мақалалары сияқты бастапқы күйлер бар. Пайдаланушы сұраулары орындылығы, реализмі және қиындығы бойынша бағаланады. Тексерушілер SQL негізіндегі немесе күйге негізделген нәтиже тексерулеріне сүйенеді, сондықтан олар агент әрекет еткеннен кейін әлемді бағалайды, тек токеннің нақты жолын ғана емес.
Дезинфекцияланған мүмкіндік сипаттамалары бар карталар шамадан тыс жабдықтаудың алдын қалай алады?
Диагностика мақсат сәтсіз аяқталған және мұғалім сәтті болған кезде контрастты жүргізеді, содан кейін бұл жағдайларды зарарсыздандырылған мүмкіндік сипаттамалары бар карталарға салады. Карта мүмкіндікті, құралдарды немесе жұмыс процесінің пішінін, сәтсіздік/табысты контрастты, қажетті соңғы күй қасиеттерін және өзгеруі мүмкін өлшемдерді жазып алады. Генератор ешқашан бастапқы шақыруларды, нысандарды, траекторияларды немесе тексеруші мәліметтерін көрмейді - тек карталарды ғана - сондықтан жаңа тапсырмалар жатталған эпизодты қайталамай, негізгі ядроға күш салады.
Құбырдағы Target және Multiply фазалары қандай?
Мақсатты фаза әлсіз агент бұзылған жерге жақын орналасқан ең жоғары сигналды тапсырмалар - саңылаулардың айналасындағы негізгі тексерілген үлгілерге шоғырланады. Көбейту фазасы қабылданған нысаналардың жаңа нұсқаларын айналдырады. Көбейтілген үлгілер көбейту раундтарын одан әрі енгізе алмайды, бұл тексеріліп жатқан аталған мүмкіндіктен ауытқуға мүмкіндік береді. Бақылаумен дәлдеуден кейін қайта бағалау оқу бағдарламасын статикалық қоқыс орнына қозғалатын шекара ретінде қалған саңылауларға ауыстырады.
Үлгі деңгейіндегі сапаны бақылау синтетикалық тапсырмалардың сенімділігін қалай қамтамасыз етеді?
Шешушінің қиындық сүзгісі мақсатты үш сынақтың ең көбі біреуінде шешетін тапсырмаларды қолдайды, ал мұғалім үш сынақтың кем дегенде екеуінде сәтті болады. Оң тексеруден өту үшін анықтамалық траектория қажет; теріс тексеру сәтсіз аяқталу үшін мутацияланған қате нәтижелер қажет. Қайталау шегі бар сыни және жөндеу циклі қателіктерді түзетуге тырысады, ал топтық деңгейдегі мета-шолу жиынтық бойынша қамтуды, әртүрлілікті, артықтықты және сәтсіз мақсаттарды тексереді.
AutoSynthData кәсіпорын домендерінде қандай архитектураны пайдаланады?
Ол ортақ контроллерді орта адаптерімен жұптайды. Контроллер диагностика, карталау, генерациялау, мұғалімдердің демонстрацияларын, сапа қақпаларын және топтық шолуды орындайды. Адаптер бұл қадамдарды нақты құм жәшігіне - құралдарға, күйге, саясаттарға және тексерушілерге - қосады, сондықтан бірдей басқару циклі оқу бағдарламасының логикасын нөлден қайта жазбай, әртүрлі домендерді көрсете алады.
Осы зерттеу контекстінде EnterpriseOps Gym дегеніміз не?
EnterpriseOps Gym - стресс-тест алаңы ретінде пайдаланылатын ірі көлемді кәсіпорын агенттерінің орындығы, онда 8 сала бойынша сарапшылар таңдаған шамамен 1150 тапсырма, шамамен 512 құрал, шамамен 164 дерекқор кестесі, контейнерленген орындау, SQL негізіндегі нәтижелерді тексеру, саясатпен басқарылатын операциялар, гибридті сценарийлер және ұзақ көкжиек күйіндегі траекториялар бар. AutoSynthData бұл жаттығу залын ойлап тапқан деп ұсынылмайды; жаттығу залы синтез циклін іс жүзінде көрсетеді.
Гибридті және ITSM параметрлері үшін автор хабарлаған қандай нәтижелер пайда болады?
EnterpriseOps Gym ойын алаңында гибридті тест Gemma-4-26B-A4B-it нысанасы ретінде, ал Qwen3.8-27B мұғалім ретінде шамамен 18 сағат ішінде шамамен 2000 үлгі жасады, орташа Pass@1 шамамен 7,2 пайыздық пунктке өсті, ал тексерушінің табысы 63,01%-дан 68,55%-ға дейін өсті. DeepSeek-V4.1-Flash мұғалім ретінде жылжытылған ITSM тесті ұзақ мерзімді перспективада шамамен 1994 үлгі бойынша орташа Pass@1 18,77%-дан 27,18%-ға дейін өсті. Оларды әмбебап өндіріс кепілдігі емес, нақты жұптастырулар бойынша зерттелген сигналдар ретінде қарастырыңыз.
Командалар сәтсіздіктерден синтезатор циклдарын пайдаланған кезде қандай қателіктерден аулақ болуы керек?
Синтетикалық деректерді тегін шындық ретінде қарастырмаңыз немесе адами шолу мен теріс тексеруді өткізіп жібермеңіз. Түпнұсқа билет идентификаторларын немесе мұғалімнің іздерін генераторға салмаңыз, көбейтілген үлгілердің одан әрі айналымдарға енуіне жол бермеңіз немесе Gym Pass@1 сайтында тоқтап қалу немесе көлеңкелі трафик күшейген кезде өздігінен жарнамаламаңыз. Сондай-ақ, табыс диапазонынан төмен әлсіз мұғалімдерді, мемлекеттік тексерулердің орнына анық емес чат рубрикаларын, оқытылмаған бас тарту жағдайларын және таяз тазалаудан кейін PII-дің қашып кетуін бақылаңыз.
Сілтемелер
- Құшақтасқан бет — AutoSynthData — huggingface.co
- EnterpriseOps жаттығу залы — enterpriseops-gym.github.io
- arXiv — arxiv.org
- GitHub — EnterpriseOps-Gym — github.com