Қысқа жауап: Генеративтік жасанды интеллекттің негізгі мақсаты - бар деректердегі үлгілерді үйрену және оларды сұранысқа жауап ретінде кеңейту арқылы жаңа, сенімді мазмұнды (мәтін, суреттер, аудио, код және т.б.) жасау. Бұл сізге жылдам жобалар немесе бірнеше нұсқа қажет болған кезде көмектеседі, бірақ егер фактілік дәлдік маңызды болса, негіздеме мен шолуды қосыңыз.
Негізгі қорытындылар:
Буын : Ол сақталған «шындықты» емес, үйренген үлгілерді көрсететін жаңа нәтижелер жасайды.
Жерге қосу : Егер дәлдік маңызды болса, жауаптарды сенімді құжаттарға, дәйексөздерге немесе дерекқорларға байланыстырыңыз.
Басқару мүмкіндігі : Нәтижелерді біркелкі басқару үшін айқын шектеулерді (пішім, фактілер, дыбыс) пайдаланыңыз.
Дұрыс пайдаланбауға төзімділік : Қауіпті, жеке немесе рұқсат етілмеген мазмұнды бұғаттау үшін қауіпсіздік рельстерін қосыңыз.
Есеп беру : Нәтижелерді жоба ретінде қарастырыңыз; жоғары қауіпті жұмыстарды тіркеңіз, бағалаңыз және адамдарға жіберіңіз.
Осыдан кейін оқуға болатын мақалалар:
🔗 Генеративті AI дегеніміз не
Модельдердің мәтінді, кескіндерді, кодты және т.б. қалай жасайтынын түсіну.
🔗 Жасанды интеллект тым көп мақтана ма?
Хайпқа, шектеулерге және нақты әлемдегі әсерге теңгерімді көзқарас.
🔗 Сізге қай AI сәйкес келеді
Танымал жасанды интеллект құралдарын салыстырыңыз және ең жақсысын таңдаңыз.
🔗 Жасанды интеллект көпіршігі бар ма?
Назар аударуға тұрарлық белгілер, нарықтық тәуекелдер және келесі қадамдар.
Генеративтік жасанды интеллекттің негізгі мақсаты🧠
Егер сізге ең қысқа және дәл түсініктеме қажет болса:
-
Генеративтік жасанды интеллект деректердің (тіл, кескіндер, музыка, код) «пішінін» үйренеді
-
сол пішінге сәйкес келетін жаңа үлгілерді жасайды
-
Ол мұны шақыруға, контекстке немесе шектеулерге жауап ретінде жасайды
Иә, ол абзац жаза алады, сурет сала алады, әуенді ремикс жасай алады, келісімшарт туралы тармақ жобасын жасай алады, сынақ жағдайларын жасай алады немесе логотип тәрізді нәрсе жасай алады.
Адам түсінгендей «түсінгендіктен» емес (біз оған тоқталамыз), бірақ ол үйренген үлгілерге статистикалық және құрылымдық тұрғыдан сәйкес келетін нәтижелерді шығаруда жақсы болғандықтан.
Егер сіз «мұны тырмаларды баспай қалай пайдалану керек» деген ересектерге арналған тұжырымдаманы алғыңыз келсе, NIST-тің AI тәуекелдерін басқару құрылымы тәуекел + ойлауды басқарудың берік негізі болып табылады. [1] Ал егер сіз арнайы бейімделген нәрсе алғыңыз келсе, NIST сонымен қатар жүйе мазмұн жасаған кезде не өзгеретінін тереңірек қарастыратын GenAI профилін жариялады. [2]
Неліктен адамдар «генеративтік жасанды интеллекттің негізгі мақсаты» туралы дауласады 😬
Адамдар бір-бірімен сөйлеседі, себебі олар «мақсат» сөзінің әртүрлі мағыналарын қолданады
Кейбір адамдар мынаны білдіреді:
-
Техникалық мақсат: нақты, үйлесімді нәтижелер жасау (негізгі)
-
Бизнес мақсаты: шығындарды азайту, өнімділікті арттыру, тәжірибені жекешелендіру
-
Адамның мақсаты: ойлауға, шығармашылықпен айналысуға немесе жылдам қарым-қатынас жасауға көмек алу
Иә, бұлар соқтығысады.
Егер біз негізді болып қалсақ, генеративті жасанды интеллекттің негізгі мақсаты - генерациялау , яғни бұрын болмаған, енгізуге негізделген мазмұн жасау.
Іскерлік мәселелер төменде жатыр. Мәдени дүрбелең де төменде жатыр (кешіріңіз... бір түрлі 😬).
Адамдар GenAI-ді немен шатастырады (және бұл неге маңызды) 🧯
көптеген шатасуларды жояды
GenAI дерекқор емес
Ол «шындықты» анықтамайды. Ол сенімді нәтижелер береді. Егер сізге шындық қажет болса, сіз негіздеуді қосасыз (құжаттар, дерекқорлар, дәйексөздер, адами шолу). Бұл айырмашылық негізінен сенімділіктің бүкіл тарихын құрайды. [2]
GenAI автоматты түрде агент емес
Модель жасайтын мәтін қауіпсіз әрекеттерді жасай алатын (электрондық пошта жіберу, жазбаларды өзгерту, кодты орналастыру) жүйемен бірдей емес. «Нұсқаулықтарды жасай алады» ≠ «оларды орындауы керек»
GenAI мақсатты емес
Ол әдейі жасалған мазмұнды жасай алады. Бұл ниетпен бірдей емес.
Генеративтік жасанды интеллекттің жақсы нұсқасын не құрайды? ✅
контекст үшін құнды, басқарылатын және қауіпсіз нәтижелер шығаратын нұсқа
Жақсы нұсқада келесілер болуы мүмкін:
-
Бірізділік – ол әрбір екі сөйлем сайын өзіне қайшы келмейді
-
Жерге қосу - ол шығыстарды шындық көзіне (құжаттар, дәйексөздер, дерекқорлар) байланыстыра алады 📌
-
Басқару мүмкіндігі - сіз тонды, форматты, шектеулерді басқара аласыз (тек дыбыстық сигналдарды ғана емес)
-
Сенімділік - рулетка нәтижелері емес, ұқсас сұраулар ұқсас сапаны береді
-
Қауіпсіздік рельстері - ол жоба бойынша қауіпті, жеке немесе рұқсат етілмеген шығыстарды болдырмайды
-
Ашық мінез-құлық - ол ойдан шығарылғанның орнына «сенімді емеспін» деп айта алады
-
Жұмыс ағынының сәйкестігі - ол қиялдағы жұмыс ағынына емес, адамдардың жұмыс істеу тәсіліне сәйкес келеді
NIST бұл әңгімені негізінен «сенімділік + тәуекелдерді басқару» деп сипаттайды, бұл... әркімнің бұрын жасағысы келетін жағымсыз нәрсе. [1][2]
Жетілмеген метафора (дайындалыңыз): жақсы генеративті модель кез келген нәрсені дайындай алатын өте жылдам ас үй көмекшісіне ұқсайды... бірақ кейде тұзды қантпен шатастырады, сондықтан десерт бұқтырмасын ұсыну үшін заттаңбалау және дәм сынау қажет 🍲🍰
Күнделікті тез дайындалатын мини-қорап (құрама, бірақ өте қалыпты) 🧩
GenAI жауаптарын дайындағанын қалайтын қолдау тобын елестетіп көріңіз:
-
1-апта: «Модель билеттерге жауап берсін».
-
Нәтиже жылдам, сенімді... кейде қымбат жолдармен қателеседі.
-
-
2-апта: Олар деректерді іздеуді (мақұлданған құжаттардан деректерді алады) + үлгілерді («әрқашан тіркелгі идентификаторын сұраңыз», «ешқашан ақшаны қайтаруға уәде бермеңіз» және т.б.).
-
Қателік азаяды, консистенция жақсарады.
-
-
3-апта: шолу жолағын (жоғары тәуекел санаттары үшін адамның мақұлдауы) + қарапайым бағалауларды қосады
-
Енді жүйені іске қосуға болады.
-
Бұл прогресс негізінен NIST-тің іс жүзіндегі мақсаты болып табылады: модель тек бір бөліктен тұрады; оны қоршаған басқару элементтері оны жеткілікті қауіпсіз етеді. [1][2]
Салыстыру кестесі - танымал генеративті нұсқалар (және олардың жұмыс істеу себептері) 🔍
Бағалар үнемі өзгеріп отырады, сондықтан бұл әдейі анық емес болып қалады. Сондай-ақ: санаттар қабаттасады. Иә, бұл тітіркендіргіш.
| Құрал / тәсіл | Аудитория | Бағасы (аймақша) | Неліктен ол жұмыс істейді (және кішкене ерекшелік) |
|---|---|---|---|
| Жалпы LLM чат көмекшілері | Барлығы, командалар | Тегін деңгей + жазылым | Жобаны жасауға, қорытынды жасауға, ми шабуылына тамаша. Кейде сенімді түрде қателеседі... батыл дос сияқты 😬 |
| Қолданбаларға арналған API LLM-дері | Әзірлеушілер, өнім топтары | Қолдануға негізделген | Жұмыс процестеріне біріктіру оңай; көбінесе қалпына келтіру + құралдармен жұптастырылған. Қоршаулар қажет, әйтпесе ащы болып кетеді |
| Кескін генераторлары (диффузия стилінде) | Шығармашылық жасаушылар, маркетологтар | Жазылым/кредиттер | Стиль + вариацияда күшті; шуды азайту стиліндегі генерация үлгілеріне негізделген [5] |
| Ашық бастапқы кодты генеративті модельдер | Хакерлер, зерттеушілер | Тегін бағдарламалық жасақтама + аппараттық құрал | Басқару + теңшеу, құпиялылыққа қолайлы параметрлер. Бірақ сіз орнату қиындықтары (және GPU қызуы) үшін төлейсіз |
| Аудио/музыка генераторлары | Музыканттар, әуесқойлар | Кредиттер/жазылым | Әуендерге, сабақтарға, дыбыс дизайнына арналған жылдам идеялар. Лицензиялау шатастыруы мүмкін (терминдерді оқыңыз) |
| Бейне генераторлары | Шығармашылық шеберлер, студиялар | Жазылым/кредиттер | Жылдам раскадровкалар мен тұжырымдамалық бейнеклиптер. Көріністердегі үйлесімділік әлі де бас ауруы болып табылады |
| Іздеу арқылы кеңейтілген генерация (RAG) | Кәсіпорындар | Инфрақызыл + пайдалану | Құжаттарыңызбен генерацияны байланыстыруға көмектеседі; «ойдан шығарылған заттарды» азайтудың ортақ бақылауы [2] |
| Синтетикалық деректер генераторлары | Деректер топтары | Кәсіпорынға тән | Деректер аз/құпия болған кезде ыңғайлы; жасалған деректер сізді алдамас үшін тексеруді қажет етеді 😵 |
Қысқаша айтқанда: генерация дегеніміз - «үлгіні аяқтау» 🧩
Романтикаға жатпайтын шындық:
Генеративті жасанды интеллекттің көп бөлігі «келесіде не болатынын болжау» арқылы басқаша сезінгенше масштабталады.
-
Мәтінде: мәтіннің келесі бөлігін (токен тәрізді) тізбектей жасау - қазіргі заманғы шақыруды соншалықты тиімді еткен классикалық авторегрессивті орнату [4]
-
Суреттерде: шуылдан бастап, оны құрылымға айналдыру арқылы қайталанатын түрде шуылдандырады (диффузия-отбасылық интуиция) [5]
Міне, сондықтан шақырулар маңызды. Сіз модельге ішінара үлгі бересіз, ал ол оны толықтырады.
Міне, сондықтан генеративті жасанды интеллект келесі жағдайларда керемет бола алады:
-
«Мұны достық тонмен жазыңыз»
-
«Маған он тақырып нұсқасын беріңіз»
-
«Бұл жазбаларды таза жоспарға айналдырыңыз»
-
«Құрылыс кодын + тесттерді жасау»
...және неге ол қиындықтарға тап болуы мүмкін:
-
негізсіз қатаң фактілік дәлдік
-
ұзақ, сынғыш пайымдау тізбектері
-
көптеген нәтижелердегі (кейіпкерлер, бренд дауысы, қайталанатын мәліметтер) тұрақты сәйкестік
Бұл адам сияқты «ойлау» емес. Бұл сенімді жалғастарды тудырады. Бағалы, бірақ басқаша.
Шығармашылық туралы пікірталас - «шығармашылық» және «ремикс» 🎨
Мұнда адамдар өте қатты ашуланады. Түсінемін.
Генеративті жасанды интеллект көбінесе шығармашылық сияқты әсер қалдыратын , себебі ол:
-
ұғымдарды біріктіру
-
вариацияны тез зерттеңіз
-
таңқаларлық ассоциациялардың үстіңгі жағы
-
таңқаларлық дәлдікпен имитациялық стильдер
Бірақ оның ниеті жоқ. Ішкі талғамы жоқ. «Мен мұны жасадым, себебі бұл мен үшін маңызды»
Дегенмен, аздап кері кету: адамдар да үнемі ремикс жасайды. Біз мұны тек өмірлік тәжірибемізбен, мақсаттарымызбен және талғамымызбен жасаймыз. Сондықтан лейбл даулы болып қала береді. Іс жүзінде бұл шығармашылық тетік , және бұл ең маңызды бөлігі.
Синтетикалық деректер - үнсіз бағаланбаған мақсат 🧪
Генеративті жасанды интеллекттің таңқаларлықтай маңызды салаларының бірі - нақты адамдарды немесе сирек кездесетін құпия жағдайларды көрсетпей, нақты деректер сияқты әрекет ететін деректерді жасау.
Неліктен бұл құнды:
-
құпиялылық және сәйкестік шектеулері (нақты жазбалардың аз жариялануы)
-
сирек кездесетін оқиғаларды модельдеу (алаяқтық шегі бар жағдайлар, тар құбырлардың істен шығуы және т.б.)
-
өндірістік деректерді пайдаланбай құбырларды сынау
-
нақты деректер жиынтығы аз болған кезде деректерді көбейту
Бірақ мәселе әлі де мәселе болып қала береді: синтетикалық деректер бастапқы деректермен бірдей қателіктер мен соқыр нүктелерді тыныш түрде қайталай алады - сондықтан басқару мен өлшеу ұрпақтан-ұрпаққа дейін маңызды. [1][2][3]
Синтетикалық деректер кофеинсіз кофе сияқты - ол сыртқы түріне сай, иісі жақсы, бірақ кейде сіз ойлағандай жұмыс істемейді ☕🤷
Шектеулер - генеративті жасанды интеллекттің қандай кемшіліктері бар (және неге) 🚧
Егер сіз тек бір ескертуді есіңізде сақтасаңыз, мынаны есте сақтаңыз:
Генеративті модельдер еркін мағынасыздық тудыруы мүмкін.
Жалпы ақаулық режимдері:
-
Галлюцинациялар - фактілерді, дәйексөздерді немесе оқиғаларды сенімді түрде ойлап табу
-
Ескірген білім - суреттерге үйретілген модельдер жаңартуларды жіберіп алуы мүмкін
-
Тез сынғыштық - сөздердің шағын өзгерістері үлкен нәтижелік өзгерістерге әкелуі мүмкін
-
Жасырын бейімділік – бұрмаланған деректерден алынған үлгілер
-
Шамадан тыс бағыну - көмектесуі керек болмаған кезде де көмектесуге тырысады
-
Әсіресе ұзақ тапсырмалар бойынша келіспеушіліктер
Міне, сондықтан да «сенімді жасанды интеллект» туралы әңгіме туындайды: ашықтық, есеп беру, беріктік және адамға бағытталған дизайн жақсы емес; олар сенімділік зеңбірегін өндіріске жіберуден қалай аулақ болуға болады. [1][3]
Табысты өлшеу: мақсатқа қашан жететінін білу 📏
Егер генеративті жасанды интеллекттің негізгі мақсаты «құнды жаңа мазмұн жасау» болса, онда табыс көрсеткіштері әдетте екі топқа бөлінеді:
Сапа көрсеткіштері (адамдық және автоматтандырылған)
-
дұрыстығы (қажет болған жағдайда)
-
үйлесімділік пен айқындық
-
стиль сәйкестігі (үн, бренд дауысы)
-
толықтық (сіз сұраған нәрсені қамтиды)
Жұмыс процесінің көрсеткіштері
-
әр тапсырма үшін үнемделген уақыт
-
түзетулердің азаюы
-
сапаның төмендеуінсіз жоғары өнімділік
-
пайдаланушының қанағаттануы (сандық бағалау қиын болса да, ең айқын көрсеткіш)
Іс жүзінде командалар ыңғайсыз шындыққа тап болды:
-
модель «жеткілікті жақсы» жобаларды тез шығара алады
-
бірақ сапаны бақылау жаңа кедергіге айналады
Сондықтан нағыз жеңіс тек ұрпақтан-ұрпаққа ғана емес. Бұл ұрпаққа және шолу жүйелеріне - іздеуге арналған жерге қосу, бағалау жиынтықтары, тіркеу, қызыл команда құру, эскалация жолдары... оны шындыққа айналдыратын барлық жағымсыз нәрселер. [2]
«Өкінбей қолданыңыз» бойынша практикалық нұсқаулар 🧩
Егер сіз генеративті жасанды интеллектті күнделікті көңіл көтеруден басқа нәрсе үшін қолдансаңыз, бірнеше әдеттер көп көмектеседі:
-
Құрылымын сұраңыз: «Маған нөмірленген жоспарды, содан кейін жобаны беріңіз».
-
Шектеулерді күштеп қолдану: «Тек осы фактілерді пайдаланыңыз. Егер жоқ болса, не жоқ екенін айтыңыз».
-
Белгісіздікті сұрау: «Болжамдар + сенімділік тізімін жасаңыз».
-
Жерге қосуды пайдаланыңыз: фактілер маңызды болған кезде құжаттарға/дерекқорларға қосылыңыз [2]
-
Нәтижелерді жобалар ретінде қарастырыңыз: тіпті керемет нәтижелерді де
Ал ең қарапайым амал - адамгершілікке жатпайтын амал: оны дауыстап оқып шығыңыз. Егер бұл менеджеріңізді таң қалдыруға тырысатын бейтаныс робот сияқты естілсе, оны редакциялау қажет болуы мүмкін 😅
Қорытынды 🎯
Генеративтік жасанды интеллекттің негізгі мақсаты - деректерден үлгілерді үйрену және сенімді нәтижелер алу арқылы сұранысқа немесе шектеуге сәйкес келетін жаңа мазмұн жасау
Ол күшті, себебі:
-
жобалау мен идеяларды әзірлеуді жеделдетеді
-
вариацияларды арзан бағамен көбейтеді
-
дағдылардағы олқылықтарды жоюға көмектеседі (жазу, кодтау, дизайн)
Бұл қауіпті, себебі:
-
фактілерді еркін жеткізе алады
-
бейімділік пен соқыр дақтарды мұра етеді
-
күрделі жағдайларда негізді және бақылауды қажет етеді [1][2][3]
Жақсы пайдаланылған кезде, ол «ауыстырушы ми» азырақ және «турбо қозғалтқышы бар қозғалтқыш» көбірек.
Нашар пайдаланылған кезде, бұл сіздің жұмыс процесіңізге бағытталған сенімді зеңбірек... және бұл тез қымбатқа түседі 💥
Жиі қойылатын сұрақтар
Күнделікті тілдегі генеративті жасанды интеллекттің негізгі мақсаты не?
Генеративті жасанды интеллекттің негізгі мақсаты - бар деректерден үйренген үлгілерге негізделген жаңа, сенімді мазмұнды - мәтінді, кескіндерді, аудионы немесе кодты жасау. Ол дерекқордан «шындықты» алу емес. Оның орнына, ол сіздің сұранысыңыз бен сіз берген кез келген шектеулер арқылы қалыптасқан, бұрын көргендерімен статистикалық тұрғыдан сәйкес келетін нәтижелерді жасайды.
Генеративті жасанды интеллект сұраныстан жаңа мазмұнды қалай жасайды?
Көптеген жүйелерде генерация масштабтағы үлгіні аяқтау сияқты жұмыс істейді. Мәтін үшін модель тізбекте келесі не болатынын болжайды, когерентті жалғасуларды жасайды. Кескіндер үшін диффузиялық стильдегі модельдер көбінесе шуылмен басталады және құрылымға қарай итеративті түрде «шуды азайтады». Сіздің шақыруыңыз жартылай үлгі ретінде қызмет етеді, ал модель оны толықтырады.
Неліктен генеративті жасанды интеллект кейде фактілерді соншалықты сенімді түрде жасайды?
Генеративтік жасанды интеллект шындықтың дұрыстығына кепілдік беру үшін емес, сенімді, еркін нәтижелер шығару үшін оңтайландырылған. Сондықтан ол сенімді естілетін мағынасыздықты, ойдан шығарылған дәйексөздерді немесе дұрыс емес оқиғаларды тудыруы мүмкін. Дәлдік маңызды болған кезде, әдетте, әсіресе жоғары тәуекелді немесе тұтынушыға бағытталған жұмыс үшін негізді растау (сенімді құжаттар, дәйексөздер, дерекқорлар) және адами шолу қажет.
«Жерге қосу» дегеніміз не және оны қашан қолдануым керек?
Негізге қою дегеніміз модельдің нәтижесін бекітілген құжаттама, ішкі білім базалары немесе құрылымдалған дерекқорлар сияқты сенімді шындық көзіне байланыстыруды білдіреді. Нақты дәлдік, саясатқа сәйкестік немесе сәйкестік маңызды болған кезде - қолдау жауаптары, заңдық немесе қаржылық жобалар, техникалық нұсқаулар немесе қате болған жағдайда нақты зиян келтіруі мүмкін кез келген нәрсе үшін негізге қоюды пайдалану керек.
Генеративті жасанды интеллект нәтижелерін қалай тұрақты және басқарылатын етуге болады?
Басқару мүмкіндігі айқын шектеулерді қосқан кезде жақсарады: міндетті формат, рұқсат етілген фактілер, тоналды нұсқаулық және нақты «істеу/істемеу» ережелері. Шаблондар көмектеседі («Әрқашан X сұраңыз», «Ешқашан Y-ге уәде бермеңіз»), сондай-ақ құрылымдалған нұсқаулар да көмектеседі («Нөмірленген жоспарды беріңіз, содан кейін жобаны беріңіз»). Модельден болжамдар мен белгісіздіктерді тізімдеуді сұрау сонымен қатар шамадан тыс сенімділікпен болжауды азайта алады.
Генеративті жасанды интеллект әрекет жасай алатын агентпен бірдей ме?
Жоқ. Мазмұнды жасайтын модель электрондық пошталарды жіберу, жазбаларды өзгерту немесе кодты орналастыру сияқты әрекеттерді автоматты түрде орындауы керек жүйе емес. «Нұсқаулықтарды жасай алады» «оларды іске қосу қауіпсіз» дегеннен өзгеше. Егер сіз құралды пайдалануды немесе автоматтандыруды қоссаңыз, тәуекелді басқару үшін әдетте қосымша қоршаулар, рұқсаттар, журнал жүргізу және эскалация жолдары қажет.
Нақты жұмыс процестерінде «жақсы» генеративті жасанды интеллект жүйесін не жасайды?
Жақсы жүйе тек әсерлі ғана емес, сонымен қатар өз контексті үшін де құнды, басқарылатын және қауіпсіз. Практикалық сигналдарға үйлесімділік, ұқсас сұраулар бойынша сенімділік, сенімді дереккөздерге сілтеме, рұқсат етілмеген немесе жеке мазмұнды бұғаттайтын қауіпсіздік рельстері және белгісіз болған кезде ашықтық жатады. Айналадағы жұмыс процесі - шолу жолдары, бағалау және мониторинг - көбінесе модель сияқты маңызды.
Ең үлкен шектеулер мен сәтсіздік режимдері қандай?
Жалпы сәтсіздік режимдеріне галлюцинациялар, ескірген білім, жедел сынғыштық, жасырын бейімділік, шамадан тыс сәйкестік және ұзақ тапсырмалар бойынша сәйкессіз пайымдаулар жатады. Нәтижелерді жобалардың орнына аяқталған жұмыс ретінде қарастырған кезде тәуекел артады. Өндірістік мақсатта топтар көбінесе сезімтал санаттар үшін іздеу негіздемесін, бағалауды, журнал жүргізуді және адами шолуды қосады.
Синтетикалық деректерді генерациялау генеративтік жасанды интеллектті қашан тиімді пайдалануға болады?
Синтетикалық деректер нақты деректер тапшы, құпия немесе бөлісу қиын болған кезде және сирек кездесетін жағдайларды модельдеу немесе қауіпсіз тестілеу орталары қажет болған кезде көмектесе алады. Бұл нақты жазбалардың әсерін азайтып, құбырларды тестілеуді немесе кеңейтуді қолдайды. Бірақ ол әлі де валидацияны қажет етеді, себебі синтетикалық деректер бастапқы деректерден ауытқуларды немесе соқыр аймақтарды қайталай алады.
Сілтемелер
[1] NIST жасанды интеллект RMF - жасанды интеллект тәуекелдері мен бақылауларын басқаруға арналған құрылым. толығырақ оқу
[2] NIST AI 600-1 GenAI профилі - GenAI-ге тән тәуекелдер мен азайту шаралары бойынша нұсқаулық (PDF). толығырақ оқу
[3] ЭЫДҰ жасанды интеллект қағидаттары - жауапты жасанды интеллект үшін жоғары деңгейлі қағидаттар жиынтығы. толығырақ оқу
[4] Браун және т.б. (NeurIPS 2020) - үлкен тілдік модельдері бар бірнеше кадрлық шақыру бойынша негізгі мақала (PDF). толығырақ оқу
[5] Хо және т.б. (2020) - шуды азайтуға негізделген кескін генерациясын сипаттайтын диффузиялық модельдік мақала (PDF). толығырақ оқу