Неліктен жасанды интеллект кейде ойдан шығарады [Бейне және викторина]

Қысқа жауап: Жасанды интеллект кейде дәлелденген фактілерді емес, келесі сөздерді болжағандықтан ойдан шығарады - еркін сөйлеу дәлел емес. Тақырып ерекше, жоғары деңгейлі болғанда немесе дәл атаулар мен сандарды талап еткенде, егер сіз жауапты негіздемесеңіз және нақты тұжырымдарды тексермесеңіз, олқылықтар сенімді болжамдармен толтырылады.

Осыдан кейін оқуға болатын мақалалар:

🔗 Жасанды интеллектті Google сияқты емдеуді тоқтатыңыз.
Неліктен жақсырақ жасанды интеллект нәтижелері үшін басқаша тәсіл қажет екенін біліңіз.

🔗 Сіздің алғашқы дұрыс жасанды интеллект сұрағыңыз
Қарапайым құрылымды пайдаланып, анық және тиімді сұрау жасаңыз.

🔗 Керемет жасанды интеллект тапсырмасының 4 бөлігі.
Жасанды интеллект тапсырмасының сапасын жақсартатын төрт маңызды элементті анықтаңыз.

🔗 Шын мәнінде, жасанды интеллект дегеніміз не?
Жасанды интеллектті қарапайым, практикалық және күнделікті терминдермен түсініңіз.

Негізгі қорытындылар:

Болжамды білмеу: Шебер прозаны үлгіні аяқтау ретінде қарастырыңыз, ешқашан ант берген дәлел ретінде қарастырмаңыз.

Сенiм тұзағы: Өзiне сенiмдi тон - стиль; дәлдiктi чаттан тыс бөлек тексеру қажет.

Жалған қаптама: Таза сілтемелер тізіміне сенбес бұрын, дәйексөз атаулары мен дәйексөздерді өзіңіз іздеңіз.

Жауапты негіздеңіз: Дереккөз жазбаларын қойыңыз және ойлап табылған URL мекенжайларын, зерттеулерді немесе статистиканы бұғаттаңыз.

Адами аудит: Ең қауіпті талапты, әсіресе денсаулық сақтау, заң немесе қаржы саласында алдымен тексеріп көріңіз.

Болжау білумен бірдей емес

Міне, тікелей нұсқасы: чат модельдерінің көпшілігі үлгі машиналары. Сіз сұрақ қоясыз. Олар жақсы жауаптың формасына сәйкес келетін жауап жасайды. Бұл форма фактілерді, тонды, құрылымды - бүкіл костюмді қамтиды. Кейде костюм нақты білімді орайды. Кейде ол олқылықты толтырған сенімді болжамды орайды.

Меніңше, бос метафора көмектеседі, сосын мен оны аздап қайталаймын. Миллиондаған ән естіген джаз пианистін елестетіп көріңізші. Олардан «көк чемодан туралы» әнін орындауды сұраңыз, сонда олар ешқашан болмаған әдемі әуен ойлап табуы мүмкін - себебі сұраныс солай болуы керек сияқты естілді. Күте тұрыңыз - бұл шеберлікті асыра бағалайды. Бұл стероидтардағы автоматты толтыруға ұқсайды. Модель шындық деп белгіленген файл шкафын ашпай, сенімді абзацты аяқтайды.

Сондықтан адамдар неге жасанды интеллект кейде ойдан шығарады деп сұрағанда , қысқа жауап: олқылықтар статистикалық тұрғыдан дұрыс болып көрінетін нәрсемен толтырылады . Дәйексөздің болмауы модельді академиялық көрінетін модельді ойлап табуға итермелейді. Санға сенімді болмасаңыз, ол ұқыпты фигура ұсынады. Адамның орта аты болмаса, ол дәуір мен мәдениетке сәйкес келетін модельді жасайды. Алғашында бұл аздап таңқаларлық. Үлгіні көргеннен кейін, онша емес.

• Еркін мәтін - ұрпақтың мақсаты - тексерілген шындық емес.
• Бос білім олқылықтары әлі де сөздермен толтырылады.
• Модель рейтингінде «дұрыс естіледі» ықтималдығы «дұрыс» дегеннен асып түсуі мүмкін.

Сенiмдiлiк пен дәлдiк - ыңғайсыз алшақтық

Адамдар сенімсіз болған кезде өздерін қорғайды. Біз «ойлаймын», «мүмкін», «тексеруім керек» дейміз. Модельдер де қорғай алады - егер сіз олардан сұрасаңыз - бірақ әдепкі нәтижелер көбінесе сенімді нұсқаулық. Бұл жылтырату - әрбір мәлімдеменің негізді екенін білдіретін белгі емес, көмекке дайындықтың ерекшелігі.

Сенiмдiлiк пен дәлдiк – әртүрлi циферблаттар. Бiрiн жоғары деңгейде, ал екiншiсiн нөлге жақын ұстауға болады. Мұны адамдармен де бастан өткерген боларсыз: қате процестi толық сенiмдiлiкпен түсiндiретiн әрiптес. Жасанды интеллект дәл солай жасай алады, тек жылдамырақ және жақсырақ пішімдеумен.

Практикалық қорытынды: сенімді сөз тіркестерін дәлел ретінде емес, стиль ретінде қарастырыңыз. Егер жауапта тексере алатын дереккөздер болмаса, белгісіздік мойындалмаса және нақты атаулар немесе сандар үйіндісі болса, баяулаңыз. Негізсіз нақтылық - классикалық тәсіл. 

• Сенімді тон ≠ тексерілген мазмұн.
• Модельден белгісіздікті әдейі белгілеуін сұраңыз.
• Жалған ауа өткізбейтін трейлерден гөрі «мен мынаған сенімді емеспін» дегенді қалаймын.

Шынайы болып көрінетін жалған дәйексөздер мен мәліметтер

Бұл өте кәсіби көрінгендіктен жағымсыз. Жалған мақала атаулары. Жалған журнал атаулары. Басуға болатындай сезілетін жалған URL мекенжайлары. Танымал адамдарға қатысты жалған дәйексөздер. Пішімдеу көбінесе мінсіз - курсивпен жазылған стиль, әдейі жыл пішінді толтырғыштар қолданылмаған, авторлық есімдер - және қаптама скиммерлерді алдайды.

Бұл түсініксіз себеппен болады. Дәйексөз формасы оқу мәтінінде жиі кездеседі. «Дереккөздерді» сұраған кезде, модель формасын . Бұл біреуден жадынан түбіртек алуды сұрағандай. Сіз түбіртекке ұқсайтын нәрсе аласыз. Дүкен ешқашан болмаған болуы мүмкін.

Бірде мен қашықтан жұмыс өнімділігі туралы зерттеудің жоба нұсқасын көрдім, онда авторлардың тізімі таза көрінді. Ол рецензияланғандай көрінді. Бұл ештеңе емес еді. Қауіп мынада: қаптама қымбат болып көрінгенде миыңыз босаңсыйды. Босаңсымаңыз. 

• Өзіңіз іздей алатын тақырыптарды сұраңыз - содан кейін оларды шын жүректен іздеңіз.
• Сіз ешқашан сұрамаған ұқыпты дәйексөз және атрибуция пакеттеріне күдіктеніңіз.
• Егер «дереккөзді» тез табу мүмкін болмаса, шағымды негізсіз деп қарастырыңыз.

Өнертабыстың қаупі ең жоғары болған кезде

Әрбір әңгіме бірдей қауіпті емес. Кофе туралы өлең метафораларды еркін ойлап таба алады - мәселе осында. Дәрі-дәрмектің дозасы, заңды мерзім, бәсекелестің баға саясаты немесе жарияланған мақалаға қатысты тарихи талап басқа планетада тұрады.

Тақырып тар, жаңадан пайда болған немесе өте нақты болған кезде тәуекел артады. Сондай-ақ, нақты сандарды, аталған құжаттарды, жеке компанияның ішкі құжаттарын немесе «он сараптамалық зерттеудің тізімін» талап еткен кезде де тәуекел артады. Сұрау неғұрлым дәл болса, модель бос орындарды сенімді толтырғыштармен толтыруға соғұрлым азғырылады.

Ұзын, әсерлі жауаптар қысқа, сақ жауаптарға қарағанда қауіптірек болуы мүмкін. Ұзындық күш-жігерге ұқсайды. Күш-жігер қамқорлыққа ұқсайды. Қамқорлық шындыққа ұқсайды. Жаман фактілердің слайдтарға қалай енетіні әсерлердің жылан тәрізді тізбегінде көрсетілген. 

• Жоғары тәуекел: денсаулық, заң, қаржы, сәйкестік, қауіпсіздік, аты-жөні аталған адамдар, нақты статистика.
• Орташа тәуекел: салалық процестер, құралдарды орнату, «ең жақсы тәжірибелер» тізімдері.
• Төмен тәуекел: ми шабуылы, жоспар құру, өз жобаңызды қайта жазу, тонды өзгерту.

Сенімді және тұрақсыз нәтижелер - жылдам салыстыру

Бір дастархан басындағы әңгімеден артық. Кәдімгі әңгімелер ерекше болғандықтан, аздап ерекшеліктер де бар.

Ойша бағалау парағын жаныңызда ұстаңыз. Фотосуреттегі сәл ауытқып кеткен күлкіні байқағандай, нәтижелердің дірілдегенін байқай бастайсыз - бірдеңенің позасы бар.

Параноидқа айналмай, ойлап табылған жауаптарды қалай анықтауға болады

Әрбір сын есімді тексерудің қажеті жоқ. Маңызды тұжырымдар үшін арзан тексеру әдеті қажет. Ең өткір жағын дәл тексеріңіз: нөмір, аты-жөні, полисі, дәйексөз. Егер бұл жағы орындалмаса, жауаптың қалған бөлігі шартты түрде мерзімінен бұрын босатылады.

Тағы бір түсініктеме: ішкі қайшылық. Модель құралдың «әрқашан» X функциясын орындайтынын айтады, содан кейін кейінірек ерекше жағдайды стандартты сияқты сипаттайды. Немесе ол функцияны ойлап табады, содан кейін оны қалай өшіру керектігін түсіндіреді - есіктерді ойлап табатын арман сияқты. Жұмсақ жерлерін тесетін қосымшалардан сұраңыз. Ойлап табылған әлемдер қысым кезінде дірілдейді.

Сондай-ақ, «тым мінсіз» қаптамаға назар аударыңыз. Әрбір абзац бірдей жылтыратылған. Әрбір ұсыныс бірдей сенімді. Шынайы сараптама әдетте текстураға ие - ескертулер, ымыраға келулер, «бұл байланысты». Тегіс мінсіздік қосымша мұқият қарауды қажет етеді. 

• Алдымен бүкіл эссені емес, ең қауіпті тұжырымды тексеріңіз.
• «Неге сенімді емессіз?» деп сұраңыз және масканың тайып кететінін көріңіз.
• Чаттың сыртындағы есімдерді, лауазымдарды және нөмірлерді салыстырып тексеріңіз.
• Еркін қалқымалы фактілерге қарағанда, мәтінге байланыстырылған жауаптарды артық көріңіз.

Өнертабысты азайтатын жедел әдеттер

Сиқырлы сөйлеммен галлюцинацияларды жою мүмкін емес - кешіріңіз - бірақ жарылыс радиусын кішірейтуге болады. Жақсы шақырулар ойынды шектейді. Жаман шақырулар импровизацияны шақырады

Осындай әдеттерді қолданып көріңіз. Олар құрғақ естіледі. Олар ақылды айла-шарғыларға қарағанда жиірек жұмыс істейді.

• Білімді игеріңіз: «Тек мен қойған жазбаларды пайдаланыңыз. Егер жоқ болса, білмеймін деп айтыңыз».
• Жалған дереккөздерге тыйым салу: «Дәйексөздерді, дәйексөздерді немесе URL мекенжайларын ойлап таппаңыз».
• Күш белгісіздікті белгілеу: "Әрбір таңбалауышты белгілеңіз: белгілі / болжамды / болжам."
• Балама нұсқаларды сұраңыз: «Екі нұсқаны және олардың әрқайсысының неліктен қате болуы мүмкін екенін көрсетіңіз».
• Күмәндану өтінімін сұраңыз: «Жасаған болжамдарыңызды тізімдеңіз».
• Атмосфераға қарағанда құрылымды артық көреді: кестелер, тексеру тізімдері және талап/дәлелдеме бағандары.

Таңқаларлығы, модельге « білмеймін » деп айтуға болатынын айту сенімділікті орындауға деген әлеуметтік қысымды азайтады. Модельдер тапсырманы бейнелейді. Егер тапсырма толықтықты кез келген жағдайда марапаттаса, сіз форматтау арқылы көркем әдебиет аласыз. Егер тапсырма олқылықтар туралы анық сөйлеуді марапаттаса, сіз өтірік айтуды азайтасыз.

Иә, кейінгі жауаптар маңызды. Алғашқы жауаптар жоба түрінде болады. «Сол сілтеме жалған болып көрінеді - тексере алмайтын кез келген нәрсені алып тастаңыз» деген сөз мүлдем қалыпты екінші хабарлама. Чатты бірінші тиынға шындықты айтуға міндетті сауда автоматы сияқты емес, редакциялау сияқты қарастырыңыз.

Негізгі ақпарат, кейінгі әрекеттер және белгісіздікпен өмір сүру

Негізге қою дегеніміз - жауапты модельдің импровизациясынан тыс нәрсеге байланыстыру: сіздің жапсырылған саясат құжатыңыз, электрондық кестеңіз, жиналыс жазбаларыңыз, өзіңіз тексеретін белгілі жалпыға қолжетімді бет. Жауап сол қоршаудың ішінде қалуы керек болған кезде, өнертабыстың жұмыс істеуге аз орны болады.

Екінші сұрақ - қосымша жауаптар. «Бұл сан қайдан шықты?» «Қай бөлігі қорытынды?» «Аталған зерттеулерсіз қайта жазыңыз.» Әрбір сұрақ - шағын аудит. Менің ойымша, бұл құралдарды қолданудың ересектерге арналған тәсілі - табыну емес, үрей емес, тек аудиттер.

Белгісіздік жұмыс процесіңіздегі қателік емес. Бұл ауа райы. Кейбір күндері модель сіздің мәтініңіздің қысқаша мазмұнын жасайды. Кейбір күндері ол ешқашан жиналмаған кіші комитет ойлап табады. Сіздің міндетіңіз - қай нәтижелерге жаңбыр жамылғысы қажет екенін шешу. 

• Дәлдік маңызды болған кезде бастапқы материалды қойыңыз.
• Шағым деңгейіндегі сенімділік белгілерін сұраңыз.
• Маңызды шешімдер қабылдау үшін адамды хабардар етіп отырыңыз
• «Шығармашылық еркіндікті» шығармашылық тапсырмаларға сақтаңыз - бағынуға емес.

Галлюцинацияның ортасында не істеу керек

Спиральды бұрмаламаңыз. Құралды сізге жеке опасыздық жасағандай мәңгілікке тастамаңыз - дегенмен, бұл тілек өткір сезілуі мүмкін. Жіпті түзетіп, жалғастырыңыз.

Қарапайым қалпына келтіру циклі:

• Айтпақшы: «Бұл дереккөз ойдан шығарылған сияқты. Қолдау көрсетілмеген шағымдарды алып тастаңыз».
• Қайта бекіту: нақты құжатты, дәйексөзді немесе деректерді қойыңыз.
• Тар жолмен қайта құрыңыз: бос жылтыратудың мүлдем жаңа эссесін емес, түзетілген бөлімді сұраңыз.
• Өткір жиектерді қайта тексеріңіз: атаулар, сандар, процесс қадамдары.
• Сенім деңгейін анықтаңыз: серіктеспен ми шабуылы, жоба көмекшісі және «бұл тақырып үшін емес».

Бір галлюцинацияны байқау әңгіменің қалған бөлігін жақсартуы мүмкін - егер сіз шектеулерді күшейтсеңіз. Модель «өзін кінәлі сезінбейді», бірақ сіздің анық нұсқауларыңыз оның не үшін оңтайландыратынын өзгертеді. Сіз басқарасыз. Тапқырлық пайда болған кезде қаттырақ басқарыңыз. 

Бұл тыныш маңызды күнделікті сценарийлер

Жұмыс электрондық пошталары: ойлап табылған «салалық стандартты уақыт шкаласы» сіз орындай алмайтын үміттерді белгілей алады. Мектеп және оқу: сіз байқамай тұрып, жалған түсініктеме басыңызға сіңіп кетуі мүмкін. Тұтынушыларды қолдау жобалары: ойдан шығарылған қайтару ережесі уәдеге айналады. Шығармашылық жазу: ойлап табыңыз - бұл ойын алаңы.

Соңғы шешім - салдар. Егер қате сөздер ақшаға, сенімге, бағаларға немесе қауіпсіздікке тұрарлық болса, тексеру міндетті емес. Егер қате сөздер тек иығыңыздың қисаюына тұрарлық болса, босаңсыңыз. Сақтықты салдармен сәйкестендіру - бұл жерде ересектердің дағдысы - «галлюцинация» сөзін жаттап алудан да көп нәрсе

Сонымен қатар: командалар «емле тексеруден өтті» дегенді «мен бұл мәлімдемені растадым» деген сияқты қалыпқа келтіруі керек. Әйтпесе, бір өңделген абзац бірден тайпалық білімге айналады. Ойпырмай.

Негізгі қорытындылар

Сонымен - Неліктен жасанды интеллект кейде ойдан шығарады деген сұрақ мынаған келіп тіреледі: бұл жүйелер ықтимал тілді болжайды, олқылықтарды үлгіні сәйкестендірумен толтырады және көбінесе сенімді болып көрінеді. Бұл комбинация сенімді қате жауаптарды, ойдан шығарылған дәйексөздерді және ешқашан болмаған ұқыпты мәліметтерді тудырады.

Құралдан қорқудың қажеті жоқ. Әдеттер қажет. Қатаң мәлімдемелерді нақты тексеріңіз. Ойдан шығарылған дереккөздерге тыйым салыңыз. Нақты контекст қойыңыз. Белгісіздікті сұраңыз. Қосымша тексерулерді аудит ретінде пайдаланыңыз. Еркін генерацияны аз шығынды шығармашылық жұмыс үшін сақтаңыз.

Сөйлеу шеберлігі кейіпкердің мінезін сипаттайтын көрсеткіш емес. Оған өте жылдам жазатын, кейде ешқашан болмаған кездесуді ойлап табатын және бақылауда болған кезде де керемет нәтижеге қол жеткізе алатын талантты тағылымдамадан өтуші сияқты қараңыз. Бақылауды сақтаңыз. Ақылдылықты сақтаңыз. Күмәнділікті жеңіл, бірақ негізді ұстаңыз. Осылайша сіз шындыққа жанасатын көркем шығарманы жарияламай-ақ пайда табасыз.

Практикалық мысал: Бәсекелестің зерттеу қорытындысында ойлап табылған дәйексөздерді табу

Галлюцинациялар абстрактілі болып көрінеді, бірақ жылтыратылған абзац клиенттік колодаға түсе жаздайды. Ұлыбританиялық маркетингтік аналитик чатботтан бас тартпай, зерттеу ретінде киінген көркем әдебиетті таратуды тоқтату үшін осы нұсқаулықтағы әдеттерді қалай пайдаланғанын көрсетеді.

Сценарий

Сэмнің сатуды бастау үшін бір беттік бәсекелестің қысқаша мазмұнын жазуға екі сағаты бар. Сұрақ таныс: күшті жақтары, баға белгілері және «бірнеше сенімді дереккөздер». Ескі әдеті бойынша, Сэм «X бәсекелесін дереккөздермен қорытындылаңыз» деп теріп, үш академиялық дәйексөздер мен нарық үлесінің нақты пайызы бар ұқыпты қысқаша мазмұн алды. Ол қысқаша естілді. Негізінен ойлап табылған. Бір тақырып табылмады. Акция саны бәсекелестің сайтында еш жерде көрсетілмеген.

Сэмге жақсырақ модель қажет емес. Сэмге негізделген жұмыс процесі қажет: дереккөз жазбаларын қою, жалған дереккөздерге тыйым салу, белгісіздік белгілерін мәжбүрлеу, алдымен ең өткір мәлімдемені тексеру, содан кейін тек сынған бөлімді қайта құру.

Мақсат - команда талқылау үшін сене алатын қысқаша ақпарат, тек түбіртек сияқты көрінетін жадтан алынған түбіртек емес.

Көмекшіге не қажет

• Сэмде бастапқы материал бар: басты беттің көшірмесі, баға белгілеу бетінің мәтіні, жақында екі қолдау билеті, жоғалған келісімшарттан ескертпелер
• Қатаң ереже: фактілік мәлімдемелер үшін тек қойылған мәтінді пайдаланыңыз; жазбалар үнсіз болған кезде «Білмеймін» деп айтыңыз
• Ойдан шығарылған дәйексөздерге, дәйексөздерге, URL мекенжайларына және статистикаға тыйым салу
• Белгілі / болжамды / болжамды бөлетін шығыс пішіні
• Пакет бөлісілмес бұрын, атауларды, сандарды және кез келген "дереккөз" атауларын бір реттік тексеру уақыты келді
• Бос орындарды толтырудың орнына үш нақтылау сұрағына дейін қоюға рұқсат етіледі

Мысал нұсқаулығы

1-хабарлама - негізделген қысқаша ақпарат: Тек төменде қойған жазбаларымды пайдаланып, сатуға арналған бір беттік бәсекелестің қысқаша ақпаратын жасаңыз. Бөлімдер: Олар не талап етеді / Тұтынушылар не туралы шағымданады / Баға сигналдары / Ашық сұрақтар. Дәйексөздер, дәйексөздер, URL мекенжайлары немесе статистика ойлап таппаңыз. Егер жазбаларда факт болмаса, «белгісіз» деп жазып, оны Ашық сұрақтардың астына тізімдеңіз. Әрбір тармақты белгілеңіз: белгілі / болжамды / болжам. Ұлыбритания ағылшын тілі. Кіріспе жоқ.

2-хабарлама - күмәндану өтінімі: Сіз жасаған әрбір болжамды тізімдеңіз. Егер сіз оны қолдайтын қойылған сөйлемді көрсете алмасаңыз, болжам белгісі бар кез келген нәрсені алып тастаңыз. Егер сіз бұрын дереккөз ойлап тапқан болсаңыз, оны жойып, солай деп айтыңыз.

3-хабарлама - тар жолмен қайта құру: Нарық үлесі сызығы қолдау көрсетілмейді. Тек Баға сигналдары бөлімін қайта жазыңыз, егер олар менің жазбаларымда көрсетілмесе. Басқа бөлімдерді сақтаңыз.

Оны қалай тексеруге болады

• Free-floating сұрауын орындаңыз («Contester X-ті үш сараптамалық дереккөзбен қорытындылаңыз») және жоғарыдағы негізделген қысқаша ақпаратты пайдаланыңыз. Ойдан шығарылған атаулар мен жалған статистиканы салыстырыңыз.
• Алдымен ең қауіпті мәлімдемені (санды немесе аталған зерттеуді) тексеріп көріңіз, бүкіл бетті емес.
• «Неге сенімді емессіз?» деп сұраңыз. Күшті жауап бос орындарды атайды; дірілдеген жауап екі есе азаяды.
• Жиек: қойылған ескертпелерден бағаны алып тастаңыз және жоспар бағасын ойлап табудың орнына жобада белгісіз деп көрсетілгенін растаңыз.
• Бөлісу алдында қабылдау тексерулері: (1) әрбір «белгілі» тармақ қойылған жолға сәйкес келеді, (2) жалған дәйексөздер жоқ, (3) ашық сұрақтарда нақты бос орындар тізімделеді, (4) қалған тақырыптарды өзіңіз іздедіңіз, (5) артында ескертпесіз нақты статистика жоқ.

Нәтиже

Көрнекі нәтиже (жарияланған зерттеу емес, бір аналитиктің бәсекелестің қысқаша жұмыс процесінің мысалдық бағалауы): 8 брифинг тапсырмасы бойынша, қабырға сағатының уақыты «жазбалар ашық» дегеннен «адамның фактілерін тексеруге дайын жобаға» дейін шамамен 12 минуттық орташа мәннен (бір реттік жылтыратылған көркем әдебиет) негізделген сұрақпен шамамен 15 минутқа дейін аздап өсті - бірақ тазалау және ұятқа қалу қаупі төмендеді. Дәлелді мәлімдемелерді адами тексеру шамамен 18 минуттық орташа мәннен (жалған атауларды қудалау және қайта жазу) мәлімдемелер алдын ала белгіленген және ойдан шығарылған дереккөздерге тыйым салынған кезде шамамен 6 минутқа дейін төмендеді, сондықтан таза уақыт әрбір қысқаша мәлімет үшін шамамен 9 минутқа немесе жиынтық бойынша шамамен 72 минутқа қысқарды. Қабылдау тексеру тізімінде (ойдан шығарылған дәйексөздер жоқ, қолдау көрсетілмейтін статистика жоқ, белгілі/болжам/болжау белгілері бар, олқылықтарды атайтын ашық сұрақтар жоқ), 8 негізделген жобаның 7-сі бірінші шолудан өтті, ал 8 бір реттік жобаның 2-сі. Шектеулер: шағын үлгі, бір аналитик, бір қысқаша түрі; айқын қоғамдық бағасы бар оңай бәсекелестер алшақтықты азайтады; «тексеру уақыты» күдікті тақырыптарды веб-іздеулерді қамтыды.

Өз нұсқаңызды өлшеу үшін: ағымдағы әдетіңізбен 5 қысқаша және қойылған дереккөздер + тыйым салынған ойдан шығарылған дәйексөздер + шағым белгілерімен 5 қысқаша нұсқа жасаңыз; көрсетілген бөліммен орташа жоба уақытын, орташа тексеру уақытын және тексеру тізімінен өту пайызын жазып алыңыз.

Не дұрыс болмауы мүмкін

• Сөйлеу шеберлігіне қатысты кемшілік: Мінсіз грамматика және ұқыпты тармақтар сізді тексеруден өткізіп жіберуге мәжбүр етеді.
• Дәйексөз косплейі: Жапсырылған материалсыз «дереккөздерді» сұрау сәйкес жазбасыз ғылыми білім алуға мүмкіндік береді.
• Тізімдерді шамадан тыс толтыру: жазбаларыңызда тек үшеуі ғана болған кезде «Маған он зерттеу беріңіз» деген марапаттау белгісі толтырғыш болып табылады.
• Эссені толығымен қайта жазу: Бір жалған жолдан кейін, сол бөлімді тар мағынада қайта жазуды сұраңыз - жаңа жылтыр қабырға емес.
• Маңызды тақырыптар: Денсаулық сақтау, заң, қаржы және нормативтік актілерді сақтау сатуға арналған қысқаша баяндамаға қарағанда күштірек адами байланыстарды қажет етеді.
• Адам циклі жоқ: Белгіленген жоба қойылған сөйлемді қате оқуы мүмкін. Сэм әлі де бөлісу түймесіне ие.

Практикалық қорытынды

Жасанды интеллект сізді алдағысы келгендіктен емес, шындыққа жанасатын тілді бос орындарға бөліп көрсеткендіктен ойдан шығарады. Шебер сөйлеуді дәлел ретінде емес, стиль ретінде қарастырыңыз. Қоршауды жабыңыз, жалған дереккөздерге тыйым салыңыз, белгісіздік деп белгілеңіз, ең өткір тұжырымды дәл тексеріңіз және бірдеңе дірілдеген кезде мәселені түзетіңіз. Осылайша сіз ешқашан болмаған сенімді оқиғаны айтпай, жылдам жоба жасайтын серіктестің артықшылығын сақтайсыз.

Жиі қойылатын сұрақтар

Неліктен кейде жасанды интеллект ойдан шығарады?

Көптеген чат модельдері үлгілік машиналар болып табылады: олар «Шындық» деп белгіленген тексерілген файл шкафы емес, жақсы жауаптың пішініне сәйкес келетін жауап жасайды. Бос орындар статистикалық тұрғыдан дұрыс естілетін кез келген нәрсемен толтырылады - академиялық көрінетін дәйексөз, ұқыпты сан немесе дәуірге сәйкес келетін егжей-тегжейлі ақпарат. Еркін мәтін - бұл генерацияның мақсаты, сондықтан «дұрыс естіледі» «дұрыс» дегенді жеңе алады. Сондықтан ойлап табылған жауаптар көбінесе мінсіз грамматикамен және ұқыпты белгілермен келеді.

Жасанды интеллект сенімділігі дәлдікпен бірдей ме?

Жоқ. Сенiмдiлiк пен дәлдiк – әртүрлi өлшемдер – бiрi жоғары, ал екiншiсi нөлге жақын болуы мүмкін. Әдепкi нәтижелер көбінесе сенiмдi нұсқаулық сияқты естiледi, себебі оқыту әрбiр тұжырымның негiзгi болуына емес, пайдалы жылтыратуды марапаттайды. Сенiмдi сөз тіркестерiн дәлел емес, стиль ретiнде қарастырыңыз. Егер жауапта тексерiлетiн көздер, белгісiздiк болмаса және көптеген нақты атаулар немесе сандар болса, баяулаңыз.

Неліктен чатботтар дәйексөздер мен жалған дереккөздерді ойлап табады?

Дәйексөз формасы оқу мәтінінде жиі кездеседі, сондықтан «дереккөздерді» сұрау нақты жазбаны алмай-ақ ғылыми жұмыс формасын тудыруы мүмкін - мысалы, жадтан түбіртек алу. Жалған мақала атаулары, журнал атаулары, URL мекенжайлары және сілтеме жасалған дәйексөздер көбінесе скиммерлерді алдау үшін жеткілікті кәсіби болып көрінеді. Талап етілетін атауларды өзіңіз іздей аласыз; егер дереккөзді тез таба алмасаңыз, мәлімдемені расталмаған деп қарастырыңыз.

Жасанды интеллект өнертабысының қаупі қашан ең жоғары болады?

Тауарлық, соңғы кездегі немесе өте нақты тақырыптарға байланысты тәуекел артады, сондай-ақ нақты сандарды, аталған құжаттарды, жеке ішкі құжаттарды немесе сарапшылар тексерген зерттеулердің ұзын тізімдерін талап еткенде. Жоғары қауіпті салаларға денсаулық сақтау, заң, қаржы, сәйкестік, қауіпсіздік, аталған адамдар және нақты статистика жатады. Ми шабуылы, жоспар құру, өз жобаңызды қайта жазу және тонды өзгерту әдетте төмен тәуекел болып табылады. Ұзын және әсерлі жауаптар да өздеріне қарағанда қауіпсіз болып көрінуі мүмкін.

Әр сөзді тексермей, ойлап табылған жасанды интеллект жауаптарын қалай анықтауға болады?

Алдымен ең өткір жағын - нөмірді, атын, саясатын немесе дәйексөзді тексеріңіз. Егер бұл көмектеспесе, қалғанын шартты түрде белгілеңіз. Ішкі қайшылықтар мен ешқандай ескертулерсіз немесе ымыраға келмейтін "тым мінсіз" қаптаманы бақылаңыз. Модельдің не нәрсеге ең аз сенімді екенін сұраңыз, чаттан тыс атаулар мен лауазымдарды тексеріңіз және еркін өзгермелі фактілерден гөрі сіз қойған мәтінге байланысты жауаптарды артық көріңіз.

Қандай жедел әдеттер жасанды интеллект галлюцинациясын азайтады?

Галлюцинацияларды бір сиқырлы сөйлеммен жою мүмкін емес, бірақ жарылыс радиусын кішірейтуге болады. Білімді қойылған жазбаларға дейін кеңейтіп, бірдеңе жетіспейтін кезде «Білмеймін» деп айтыңыз. Ойдан шығарылған дәйексөздерге, дәйексөздерге және URL мекенжайларына тыйым салыңыз. Белгілі / болжамды / болжам сияқты тегтерді мәжбүрлеп қолданыңыз, болжамдарды сұраңыз және талап/дәлелдеме құрылымын артық көріңіз. Модельге «Білмеймін» деп айтуға болатынын айту жалған сенімділік жасау қысымын азайтады.

Нақты жұмыс үшін жасанды интеллектті пайдаланған кезде жерге қосу нені білдіреді?

Жерге орналастыру жауапты модельдің импровизациясынан тыс нәрсемен байланыстырады - сіздің саясат құжатыңыз, электрондық кестеңіз, кездесу жазбаларыңыз немесе өзіңіз тексеретін жалпыға қолжетімді бет. Жауаптар сол қоршаудың ішінде қалуы керек болған кезде, өнертабыс үшін орын аз болады. Қосымша жауаптар екінші қоршау ретінде әрекет етеді: санның қайдан шыққанын, қай бөлігі қорытынды екенін сұраңыз немесе аталған зерттеулерсіз қайта жазыңыз. Маңызды шешімдер қабылдау үшін адамды хабардар етіп отырыңыз.

Әңгіме барысында галлюцинация пайда болса, не істеуім керек?

Оны қайта атаңыз, нақты құжатпен немесе деректермен қайта бекітіңіз және мүлдем жаңа, жылтыратылған эссе сұраудың орнына тек бұзылған бөлімді қайта жасаңыз. Айқын жақтарын - атауларды, сандарды, процесс қадамдарын қайта тексеріңіз - содан кейін құралдың ми шабуылы бойынша серіктес, жоба көмекшісі немесе "бұл тақырып үшін емес" екенін шешіңіз. Айқын шектеулер модельдің не үшін оңтайландыратынын өзгертеді; өнертапқыштық пайда болған кезде көбірек басшылыққа алыңыз.

Бәсекелестің зерттеу қысқаша мазмұнындағы ойдан шығарылған дәйексөздерді қалай тоқтатуға болады?

Қолыңызда бар дереккөз жазбаларын қойыңыз, жалған дереккөздерді және қолдау көрсетілмейтін статистиканы тыйым салыңыз және белгілі / болжамды / болжам тегтерін, сондай-ақ ашық сұрақтар тізімін талап етіңіз. Алдымен ең қауіпті талапты тексеріңіз, қолдау көрсетілмеген болжамдарды алып тастайтын күмәнді өтінімді орындаңыз және егер сан қолдау көрсетілмесе, тек сынған бөлімді қайта жазыңыз. Қабылдау әрбір "белгілі" тармақ қойылған жолға сәйкес келеді және қалған тақырыпты адам іздейді дегенді білдіреді.

Жасанды интеллекттің еркін ойлап табуына қашан рұқсат беруге болады?

Шығармашылық жазу және басқа да жеңіл тапсырмалар метафораларды еркін ойлап таба алады - бұл ойын алаңы. Сақтық шараларын салдармен салыстырыңыз: егер дұрыс емес сөздер ақшаға, сенімге, бағаларға немесе қауіпсіздікке тұрарлық болса, тексеру міндетті емес. Егер олар тек иығыңыздың қисаюына тұрса, босаңсыңыз. Шеберлік кейіпкерге сілтеме емес; модельге фактілік жұмыс бойынша әлі де бақылауды қажет ететін жылдам тағылымдамадан өтуші сияқты қараңыз.

Сілтемелер

1. OpenAI - openai.com
2. Антропикалық - anthropic.com
3. NIST - nist.gov
4. IBM - ibm.com
5. Google жасанды интеллекті - ai.google.dev
6. Google Cloud - Жерге қосу - docs.cloud.google.com