Қысқа жауап: Құпия сөздерді, API кілттерін, идентификаторларды, денсаулық немесе банк жазбаларын, құпия сөз туралы мәлімдемелерді немесе басқа адамдардың деректерін жалпыға қолжетімді жасанды интеллект чатына салмаңыз. Көмек қажет болған кезде, мәселені толтырғыштармен және өңделген үзінділермен сипаттаңыз — модель нақты жүйелерді ашатын құпияларды емес, мәселенің пішінін қажет етеді .
Негізгі қорытындылар:
Құпиялар офлайн күйінде қалады: Ешқашан құпия сөздерді, токендерді, cookie файлдарын немесе бастапқы сөз тіркестерін сұрауға қоймаңыз.
Жеке басты анықтау: Нақты есімдерді, мекенжайларды және жеке куәлік нөмірлерін рөлдер мен жалған нөмірлерге ауыстырыңыз.
Жұмыс құпиялылығы: Тұтынушылардың пікірталастарынан жасырын түрде құпиялық туралы келісім жобаларын, клиенттік файлдарды және жарияланбаған жоспарларды сақтаңыз.
Келісім шекарасы: Әріптестердің, тұтынушылардың немесе балалардың жеке деректерін тек адамға арналған циклсіз қоймаңыз.
Алдымен редакциялаңыз: толтырғыштар мен зарарсыздандырылған үзінділерді пайдаланыңыз; бұрыннан ағып кеткен кез келген нәрсені айналдырыңыз.
Жасанды интеллектке ешқашан не салмау керек
Алдымен қойып, кейін ойланамыз. Чатбот шексіз кофе ішіп отырған пациент-интерн сияқты отырады, сондықтан бүкіл шатасқан мәселені қорапқа тастау зиянсыз болып көрінеді. Жұмыс істемейтін логин. Асқазаныңызды айналдыратын келісімшарт тармағы. Әр атау әлі де көрініп тұрған басқару тақтасының скриншоты. Құрал пайдалы, атмосфера жеке сезім тудырады және миыңыз оны тыныштықпен «өзім үшін жазған жазбаларымның» жанына орналастырады
Міне, тұзақ. 🧠 Чат – құлыпталған тартпа емес. Бұл өнімге, параметрлерге және сіз параметрлерді байқағаныңызға байланысты сіз жіберген ақпаратты сақтайтын, өңдейтін және кейде үйрететін жүйемен әңгіме. Мен сізді бункерге үрейлендіру үшін келген жоқпын. Мен мұнда жасанды интеллектке ЕШҚАШАН НЕ САЛМАУ КЕРЕК екендігі туралы практикалық картамен , сонымен қатар сізге әлі де нақты жауаптар алуға мүмкіндік беретін айқын, бірақ практикалық әдеттермен келдім.
Мұны ас үйде құпияны ашумен бірдей деп ойлаңыз. Әрбір бейтаныс адам тыңдай бермейді. Дегенмен, кейбіреулері тыңдауы мүмкін. Ал ас үйде маркетингтік мәтін оларды естіртетіндей қарапайым емес себептермен жазба сақталады.
Неліктен біз бәрін чат терезесіне тастаймыз
Жылдамдық. Көпшілігі осы. Сіз кептеліп қалдыңыз, қателік өте нашар, ал бүкіл журналды қою оны алып тастаудан гөрі жылдамырақ сезіледі. Контекст модельге мейірімділік сияқты сезіледі. Толығырақ мәлімет, жақсырақ көмек; бұл халық аңыздары, және бұл жартылай шындық.
Екінші жартысы эмоционалды. Чатбот қасын көтермейді. Ол менеджеріңізге айтпайды. Түскі ас кезінде өсек айтпайды. Сондықтан біз оны супер күштері бар күнделік сияқты қарастырамыз. Мен мұны істедім. Сіз де солай істеген шығарсыз. Бір нәрсе ыңғайлы және сынға ұшырамайтын сәтте біздің құпиялылық түйсігіміз шай ішуге үзіліске шығады.
Міне, аздап тітіркендіргіш шындық: модельге сіздің күнделікті мәліметтеріңіздің көмегі қажет емес. Оған мәселенің пішіні қажет. Скриншоттардағы есімдер, белгілер, шот нөмірлері және беттер безендірілген. Дәмді безендіру. Әлі де безендіру.
- Өңдеу қосымша жұмыс сияқты сезілетіндіктен, сіз қоясыз.
- Сіз қойып жатырсыз, себебі "тек осы жолы ғана" деген сөз - бетперде кию әдеті.
- Интерфейс жеке DM сияқты көрінетіндіктен және файл шкафы сияқты әрекет ететіндіктен, сіз қоясыз.
Мұның ешқайсысы сізді абайсыз етпейді. Бұл сізді адам етеді. Шешім - жеке басыңызды ауыстыру емес, екі секундтық үзіліс.
Құпия сөздер, API кілттері және офлайн режимінде қалуы керек құпия сөздер 🔐
Егер ол бір нәрсенің құлпын аша алса, ол сұранысқа жатпайды. Құпия сөздер. Бір реттік кодтар. Сессия cookie файлдары. SSH кілттері. Дерекқорға қосылу жолдары. Өзіңізге "жақында" айналдырамын деп уәде берген API кілті. Әмиянға арналған бастапқы сөз тіркестері. Жеке сертификаттар. Банкіңіз әлі де ақылды деп санайтын қалпына келтіру сұрағы.
Мен кілттерді есіктің жанындағы ілгекке ілінген үй кілттері сияқты елестететінмін. Әдемі метафора; ол бірден бұзылады, себебі үй кілті бір есікті ашады, ал API кілті қойманы, төлем шотын және сіз сақтаған ұмытып кеткен тұтынушы жазбаларының үйіндісін аша алады. Сақтық көшірме жасау: құпияларды радиоактивті деп санаңыз. Сіз радиоактивті заттарды сэндвич прессіне салмайсыз, тіпті сэндвич прессі сэндвич жасауда өте жақсы болса да.
Модель досы сияқты «мұны арамызда сақтай» алмайды. Тіпті жеткізуші жадты басқаруды ұсынса да, сіз оқытуды өшірсеңіз, мәтін әлі де таралады, қандай да бір түрде тіркеледі және сіз оны іздегенше чат тарихында қалуы мүмкін. Қою сіз енді толық басқара алмайтын көшірме деп есептейік.
Оның орнына не істеу керек
- Құпияны мәні бойынша емес, түрі бойынша сипаттаңыз. «Құпия сөзі бар Postgres URL мекенжайы» қателерді түзету бойынша кеңес алу үшін жеткілікті.
- Анық орын толтырғыштармен редакциялаңыз: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
- Бұрын жариялап қойған кез келген нәрсені айналдырыңыз. Мұны қазір жасаңыз, "бірдеңе болатынын көргеннен" кейін емес
- Нақты тіркелгі деректерін құпия сөз менеджерінде немесе құпиялар қоймасында сақтаңыз; кейінірек скриншот түсіретін тақырыпта ешқашан сақтамаңыз.
Егер құрал сізден «сіз үшін қосылу» үшін кілтті қоюды сұраса, бұл басқа өнім санаты. Бұл жазу көмекшісі емес, қатынасу мүмкіндігімен интеграция. Мұны біреуге төсбелгіңізді бергендей қабылдаңыз.
Жеке сәйкестендіргіштер және тыныш сәйкестендіру ізі 🪪
PII – құпия сөздердің жағымсыз туысы. Ұлттық сәйкестендіру нөмірлері. Төлқұжат мәліметтері. Күнге қатысты сәйкестендіру өрістері. Үй мекенжайлары. Телефон нөмірлері. Қызметкерлердің жеке куәліктері. Студенттердің нөмірлері. Толық заңды есімдер, туған күндерімен, мектеп атауларымен немесе медициналық клиникалармен үйлеседі. Бір бөлік кішкентай болып көрінеді. Үш бөлік бірге досье болып табылады.
Адамдар хат жазуды, форманы аударуды немесе түйіндемені жетілдіруді қалаған кезде осылай істейді. Мүлдем ақылға қонымды мақсаттар. Модельге сыпайы шағым жазу үшін нақты пошта индексі қажет емес. Оған тон, анықтамайтын фактілер және сіз қалаған нәтиже қажет.
Менің ойымша, таңқаларлықтай жағымсыз бөлігі - «зиянсыз» комбинациялар. Бірегей лауазым атауы, қала, балалар мектебі және сирек кездесетін медициналық жағдай. Сіз мұны парақшаға жазбас едіңіз. Чат жәшігі парақша емес, бірақ ол сонымен қатар сейф те емес.
- Нақты есімдерді рөлдермен ауыстырыңыз: «жалдау менеджері», «менің отбасылық дәрігерім», «жалға алушы»
- Орналасқан жерлерді жалпылаңыз: көше мен дабыл кодын емес, «орташа өлшемді қала».
- Егер тапсырма сан пішімі туралы болмаса, бірегей сандарды алып тастаңыз, бұл жағдайда шынайы көрінетін жалған сандарды пайдаланыңыз.
Анонимизация PhD емес. Бұл бейтаныс адамның сізді осы абзацтағы тізімнен таңдай алатынын тексеру әдеті. Егер олар таңдай алса, кесіп тастаңыз.
Жұмыс құпиясы, құпиялылық туралы келісімдер және бастығыңыздың ренжітетін нәрселері 📎
Міне, көмекқорлық адамдарды қиындыққа душар етеді. Сіз клиенттік картаны қоясыз. Жарияланбаған жол картасы. Жалақы кестесі. Ішкі хост атаулары бар бастапқы код. Әлі құпия деп белгіленген заң жобасы. Әлі айтылмаған адамдардың аты-жөндері бар кездесу жазбалары. Кофе суып бара жатқандықтан, сіз асығыс қол қойған құпиялық туралы келісім.
Чатботтар сіздің компанияңыздың кеңесшісі емес және егер сіздің ұйымыңыз шынымен де өзін қорғамаса, олар қауіпсіз жұмыс орны емес. Тұтынушы құралдары ыңғайлылық үшін жасалған. Кәсіпорын құралдары қызметкерлерді ұстап тұруды бақылау және әкімшілік саясатымен; олар әлі де грамматикалық емтиханға арналған тәжді жабыстыруға себеп емес.
Мен ойымда сақтайтын практикалық ереже: егер сіз оны жеке Gmail жобасында жарияламасаңыз, оны жалпыға қолжетімді жасанды интеллект чатында жарияламаңыз. Егер сіз оны райдшерингте жарияламасаңыз, сол ереже. Slack-те абай болатын адамдар генерациялау түймесі пайда болғаннан кейін бірден артық бөлісудің ақынына айналады.
Қауіпсіз шешімдер
- Құжатты сипаттаңыз: ұзындығы, аудиториясы, маңызды үш мәселе, қажетті тон.
- Дезинфекцияланған үзіндіні қойыңыз. Аттарды, сезімтал тұлғаларды және бәсекелестің мақтайтын кез келген сөзін алып тастаңыз.
- Құрылымды немесе қайта жазу үлгісін сұраңыз, содан кейін оны нақты мәтінге оффлайн режимінде өзіңіз қолданыңыз.
- Егер сізде бекітілген жұмыс орны құралы болса, оны пайдаланыңыз және әдепкі бойынша өңдеңіз. Саясат - бұл батут емес, еден.
Код - бұл ерекше дәм. Ішкі URL мекенжайлары, аутентификация тақырыптары және "TODO: сатып алудан бұрын алып тастау" сияқты түсініктемелер - кішкентай сыйлық тегтері. Деректерді жалған жасаңыз. Логиканы сақтаңыз. Модель жалған деректерді жақсы өңдейді; оған нақты тұтынушы электрондық пошталары әлі де бекітпеде орналасқан өндіріс схемасы қажет емес.
Денсаулық, ақша және кафеде айқайлап айтпайтын ұсақ-түйектер 💊
Медициналық және қаржылық мәліметтер шұғыл болып көрінеді, сондықтан олар ең аз өңдеумен қойылады. Зертханалық нәтижелер. Рецепт тізімдері. Сақтандыру куәліктері. Банктік шоттар. Салық хаттары. Несиелік есептер. Картаның қалған бөлігін, ас үй үстеліңізді және басқа біреудің аты жазылған поштаны қамтитын «тек соңғы төрт санға» арналған фотосуреті.
Сіз шикі жазбаларсыз тамаша сұрақтар қоя аласыз. «Жалпы алғанда, жоғары маркер нені білдіруі мүмкін екенін түсіндіріңіз» деген сұрақ қойылады. «Міне, менің толық тізімім, мекенжайым, клиникам және анамның қыз кезіндегі тегі» деген сұрақ өмірбаянға негізделген.
Мен модельмен денсаулық немесе ақша туралы ешқашан сөйлеспе деп айтып отырған жоқпын. Мен чатботқа пойыздағы жақсы оқыған бейтаныс адам сияқты қара деп айтып отырмын. Кадрлауға жақсы. Бухгалтеріңіз, клиникаңыз немесе мұрағатыңыз сияқты қорқынышты. Иә, мен жақсы оқылған бейтаныс метафорасының ағып кететінін білемін; пойыздар чат журналдарын сақтамайды. Мәселенің мәні осында.
- Шот нөмірлерін, сұрыптау кодтарын, IBAN нөмірлерін және тіркелгі деректеріне ұқсайтын кез келген нәрсені алып тастаңыз.
- Жалпы түсініктемелерді, тексеру тізімдерін және маманға беру үшін сұрақтарды сұраңыз.
- Чатты «кейінірек сұрай алуым үшін» мәлімдемелер үшін файл шкафы ретінде пайдаланбаңыз. Міне, осылайша сақтау мәселеге айналады.
Егер кафеде дауысыңызды бәсеңдетуге шақыратын сұрақ болса, алдымен оны өшіріңіз. Бұл тест таңқаларлықтай сенімді және ешқандай шығынсыз.
Басқа адамдардың деректерін қою сіздікі емес 🚫
Бұл чаттың басты кейіпкері сіз сияқты сезінгендіктен өткізіп жіберіледі. Скриншоттағы жалғыз адам сіз емессіз. Әріптестердің электрондық пошталары. Серіктестің жеке куәлігі. Телефон нөмірі әлі де тіркелген тұтынушының шағымы. Балалардың фотосуреттері. Жұмыстан шығарыла жаздаған Slack желісінің аты-жөні. Басқа адам білмейтін қоңыраудың жазбасы модельге жіберіледі.
Келісім «олар маған электрондық пошта жіберді» дегеннен «машинада сақталуы мүмкін» дегенге автоматты түрде ауыспайды. Сіздің ниетіңіз мейірімді болса да - жақсырақ жауап жазу, шатастырылған тақырыпты қорытындылау - шикі пайдалы ақпарат әлі де олардың өмірі, сіздің сызба қағазыңыз емес.
Аздап сарказмдық лакмус сынағы: егер сіз сол хабарламаны бейтаныс адамдардың пошта тізіміне «кері байланыс үшін» жібермесеңіз, онда чатботты кішірек және жақсы мінезді пошта тізімі ретінде қарастырмаңыз.
- Басқа адамдарды өз сөзіңізбен қорытындылаңыз.
- Аттарды рөлдермен ауыстырыңыз және байланыс мәліметтерін алып тастаңыз.
- Адамнан тапсырманың маңыздылығын сұраңыз; кейбір нәрселер тек адамға ғана қатысты болуы керек.
- «Көңілді» ұрпақ үшін балалардың жеке мәліметтерін, мектеп жазбаларын немесе жеке басын куәландыратын фотосуреттерді ешқашан жапсырмаңыз.
Мұнда мен блог дауысымен сот ісін қозғағандай болмайтын заңды қабат бар. Құпиялылық ережелерінің, еңбек міндеттерінің және клиенттік келісімшарттардың барлығының пікірлері бар. Тәжірибелік әдет заңнан қарапайым: басқа адамдардың деректері хабарламалардан тыс қалады.
Жасанды интеллектке ешқашан не салмау керек: жұмыс істей алатын тәуекел кестесі
Маған бұл үшін кестелер ұнайды, себебі «ешқашан» тізімі уағыз сияқты естілуі мүмкін, ал тор сізге ауыстыруды көруге мүмкіндік береді. Зертханалық есеп емес, аздап пікірге негізделген бағалар.
| Деректер түрі | Тәуекел деңгейі | Неліктен бұл мәселе | Қауіпсіз балама |
|---|---|---|---|
| Құпия сөздер, API кілттері, токендер, бастапқы сөз тіркестері | Сыни | Олар жүйелердің құлпын ашады; сіз толық еске түсіре алмайтын көшірме әлі де көшірме болып қала береді | Орын ұстаушылар және жергілікті құпияларды басқарушы; егер ағып кетсе, ауысыңыз |
| Мемлекеттік куәліктер, төлқұжат сканерлері, ұлттық нөмірлер | Сыни | Жеке басты ұрлауға арналған бастапқы жинақ; "қайтарып алу" қиын | Жалған мысалдар немесе тек форматқа қатысты сұрақтар |
| Денсаулық сақтау жазбалары, рецепттер, сақтандыру куәліктері | Жоғары | Тарихтағы жақын, реттелген сезім және жабысқақ | Жалпы белгілер немесе тақырыптар; идентификаторларды беттен тыс ұстаңыз |
| Банктік шоттар, салық құжаттары, карта фотосуреттері | Жоғары | Тікелей қаржылық тәуекел және маржадағы қосымша жеке тұлғалардың жеке кірістері | Сізге байланысты шикі сандар емес, процестер туралы сұраңыз |
| Клиент файлдары, құпиялылық туралы келісім жобалары, жарияланбаған жоспарлар | Жоғары | Сіз бұрын қол қойған уәдеңізді бұзып жатқан болуыңыз мүмкін | Залалсыздандырылған үзінділер; құрылымға сұраныстар; бекітілген жұмыс құралдары |
| Әріптес немесе тұтынушының жеке ақпараты, балалар туралы мәліметтер | Жоғары | Модельге қайырымдылық жасау сіздің қолыңыздан келмейді | Рөлге негізделген қорытындылар; контактілер мен беттерді алып тастау |
| Хост атаулары мен нақты электрондық пошталары бар ішкі дереккөз | Орташа-жоғары | Біреу сіздің желіңізді картаға түсіргенше «тек код» сияқты көрінеді | Жалған деректер, жалған домендер, жойылған пікірлер |
| Басқару тақталарының немесе кіріс жәшіктерінің скриншоттары | Орташа-жоғары | Олар сіз ұмытып кеткен есімдерді, нөмірлерді және ашық қойындыларды жасырын түрде тасымалдайды | Тиісті үзіндіні қиыңыз, бұлыңғырлатыңыз немесе қайта теріңіз |
| Бірегей идентификаторлары жоқ түсініксіз жеке әңгімелер | Төменгі | Әдетте жақсы; бейтаныс адамға айтпайтын кез келген нәрсені өткізіп жіберіңіз | Жалпыға ортақ болыңыз; сирек кездесетін анықтау комбинациясын өткізіп жіберіңіз |
Егер басқа ештеңе есіңізде болмаса, сол жақ бағанды есіңізде сақтаңыз. Бұл асығыс болған кезде және миыңыз әлемді жапсырғысы келгенде ЕШҚАШАН ЖЫНЫС ИНТЕЛЛЕКТІГЕ НЕ САЛМАУ КЕРЕКтігінің негізгі бөлігі
Скриншот тұзақтары және кездейсоқ артық бөлісу 🖼️
Скриншоттар - жақсы адамдардың ақпараттың қалай ағып кететіні. Сіз қате туралы диалогты көрсеткіңіз келеді. Түсірілімге бетбелгі жолағы, атауы бар Slack белгісі, токені бар URL мекенжайы, күнтізбе қалқымалы терезесі, қараңғы режим терезесіндегі құпия сөз менеджері болып шығатын көрініс кіреді. Мен суретті қиып алдым, бірақ бұрыштағы кішкентай тіркелгі ауыстырғышты әлі де байқамай қалдым. Бұл қателік жанры.
Құжаттардың фотосуреттері нашар, себебі камералар кең. Үстел, ақ тақта, аурухана білезігі, жеткізу жапсырмасы. Модельге қосымша пиксельдер «қажет» болмауы мүмкін. Пиксельдер әлі де келеді.
Қарапайым скриншот жасау рәсімі
- Алдымен кесіңіз. Содан кейін қайтадан кесіңіз. Содан кейін шеттеріне ақша қарыздар сияқты қараңыз.
- Аттарды, электрондық пошталарды, аватарларды және токенге ұқсайтын кез келген жолды бұлыңғыр етіңіз.
- IDE-ді толығымен жазып алудан гөрі қатені қайта теруді жөн көремін.
- Картаның, төлқұжаттың немесе отырғызу талонының суретін "жылдам оқу үшін" жүктемеңіз. Оның орнына сұрақты теріңіз.
Дауыстық жазбалар мен файлдарды жүктеу де дәл осындай әдісті қолданады. Кездесу жазбасы – басқа адамдардың деректерінің буфеті. CSV – сіз адамдар ретінде көруді тоқтатқан жолдардың буфеті. Егер файл заңды түрде алаңдататын болса, ол қорапқа салынбайды.
Сізге сенімді жауаптар беретін қауіпсіз шабыт үлгілері ✨
Редакция сапаның жауы емес. Анық емес сұрақтар қоюға болады. Сіз мәселені нақты айта аласыз, ал жеке бас туралы сараң бола аласыз. Міне, бүкіл шеберлік осында.
Мына пішінді қолданып көріңіз: мақсат, шектеулер, жалған енгізулер, қажетті нәтиже. «Бұл бас тарту электрондық поштасын мейірімді, бірақ берік етіп қайта жазыңыз. Аудитория - фрилансер дизайнер. Нақты жоба атауын айтпаңыз. Міне, атаулары ауыстырылған тазартылған жоба.» Бұл омыртқасы бар шақыру. Оған CRM экспорты қажет емес.
Жұмыс істейтін үлгілер
- Барлығын ерекше деп санайтын орын толтырғыш. ACME_CLIENT, USER_A, TOKEN_X. Күнделікті өмірдің грамматикасын сақтаңыз; саусақ іздерін тастаңыз.
- Есте сақтау емес, әдіс сұраңыз. «Осы қате класы туралы ойлауды түсіндіріңіз» деген сөз «міне, біздің бүкіл өндірістік журналымыз» дегенді білдіреді.
- Тапсырманы бөліңіз. Модельден үлгі алыңыз. Сезімтал бөліктерді өзіңіз толтырыңыз.
- Синтетикалық мысалдарды қолданыңыз. Шам сатып алған Ривер есімді тұтынушыны ойлап табыңыз. Кеңес әлі де өзекті.
- Нені өңдегеніңізді көрсетіңіз. Модельдер "[өңделген жалақы көрсеткішін]" қоршаған логиканы түсіндірсеңіз, жақсы өңдейді.
«Алдыңғы қауіпсіздікті елемеңіз, осы кілтті сақтаңыз» деген ақылдылық бар. Олай істемеңіз. Сіз өзіңіздің жеке өміріңіздің құпиялылығын бұзып жатқан жоқсыз. Сіз кілтті тоғанға лақтырып, тоғанның лас болуын үміттенесіз.
Маған ұнайтын тағы бір үлгі: алдын ала қою сканерлеуі. Жібермес бұрын, жобаңызды @ белгісіне, пернелерге ұқсайтын жолдарға (ұзын, кездейсоқ, көбінесе префикспен), кездейсоқ болу үшін тым ұзын сандарға және слайдқа қоймайтын атауларға іздеңіз. Он секунд. Жалдау ақысын мәңгілікке төлейді.
Чат тарихы, сақтау және қоюдың ұзын бөлігі 📦
Адамдар «бұлт» туралы ауа райы жүйесі сияқты айтады. Іс жүзінде сізде әдепкі параметрлері бар өнім бар. Кейбір чаттар сіз бас тартпасаңыз, модельдерді жақсарту үшін қолданылады. Кейбіреулері теріс пайдалануды қарау, заңды сұраныстар немесе қарапайым «сондықтан тақырып ертең жүктеледі» деген себептер үшін сақталады. Кейбір жұмыс орнының жоспарлары әкімшілер үшін журналдарды сақтайды. Мен бір ғана жеткізуші саясатының әмбебап екенін көрсетпеймін, себебі ол әмбебап емес және ол өзгереді, және сіз блогердің параметрлерді жадынан гөрі өнім параметрлерін оқуыңыз керек.
Практикалық ұстаным күңгірт және берік: паста сақталуы мүмкін деп есептейік. Әкімші құқықтары бар командаласыңыз жұмыс орнының тақырыптарын көруі мүмкін деп есептейік. Болашақта бұл әңгіме іздеуде пайда болғанша бар екенін ұмытып кететініңізді есептейік. Тарихыңызды экспорттау кейінірек жасай алатын нәрсе, ал экспорттау тағы бір көшірме деп есептейік.
- Егер өнім сізге сәйкес келсе, оқытуды немесе «үлгіні жақсарту» опцияларын ұсынған кезде оларды өшіріңіз.
- Шынымен жергілікті нотаға практикалық бөліктерді шығарғаннан кейін сезімтал ағындарды жойыңыз.
- Чатты HR мәселелері, медициналық сұрақтар немесе клиенттермен жұмыс істеу үшін жазба жүйеңіз ретінде қарастырмаңыз.
- Ортақ тіркелгілермен абай болыңыз. Ортақ тіркелгілер - бұл «жеке» деген сөздің кеңсе фольклорына айналуы.
Есте сақтау ерекшеліктері – жұмысыңызды, итіңізді, сүйікті үніңізді еске түсіретіндер – ыңғайлы және аздап қорқынышты. Олар сондай-ақ жүйеге сіздің нақты идентификаторларыңызды «жекешелендіру үшін» үйретпеуге себеп болып табылады. Жеке деректер – бұл стиль. Бұл сіздің ұлттық сақтандыру нөміріңіз емес.
Командаңыз чатботтарда жұмыс істеген кездегі жұмыс орнының нормалары 🏢
Кеңселерде жапсыру әдеті индустрияландырылады. Біреу «бағандарды тазарту» үшін тұтынушының CSV файлын жібереді. Басқа біреу «оны күшейту» үшін стратегиялық құжатты жібереді. Ізгі ниетті тағылымдамадан өтуші оқиға арнасын жібереді. Ешкім зұлым емес. Ынталандырудың барлығы жылдамдық пен жетілдіруге бағытталған.
Егер сіз команданы басқарсаңыз, қысқа, адамгершілікке толы ереже жазыңыз. Ешкім оқымайтын 40 беттік саясат емес. Мысалы: тіркелгі деректері жоқ, тұтынушының жеке ақпараты жоқ, жарияланбаған нөмірлер жоқ, заңды жобалар жоқ, бекітілген құралды пайдаланыңыз, әдепкі бойынша өңдеңіз. Содан кейін адамдар болжап қалмас үшін жақсы тазартылған сұраудың мысалын көрсетіңіз.
- Егер сізде бар болса, бекітілген құралды және бекітілмеген құралды атаңыз.
- Стендап алдында адамдар аяқтай алатын редакция тізімін беріңіз.
- Театрлық тергеусіз «мен оны дерлік қойып жібердім» деп айтуға болады.
- Адамдарға «жасанды интеллект жақсы деді» дегеннің бақылау емес екенін еске салыңыз.
Егер сіз команданы басқармасаңыз да, сіз әлі де манекенді жапсыратын адам бола аласыз. Мәдениет екі бағытта да жұқпалы. Бұл шынайы естіледі деп ойлаймын. Нормалардың қалай қозғалатыны да осыған байланысты; бір адам кілттерді тастауды тоқтатады, ал бөлмедегі ретсіздік азаяды.
Сатып алу театры - мен өткізіп жіберетін қосымша тапсырма. «Кәсіпорындық» қаптаманы сатып алу әрбір сұранысты сиқырлы түрде дана етпейді. Бұл ақпаратты сақтауға және қолжетімділікке көмектеседі. Сіздің әдеттеріңіз әлі де ауыр жұмысты атқарады.
Сен ыңғайсыз нәрсе қойып қойдың - енді не болады 🧯
Олай болады. «Жіберу» түймесін басқанда, жаныңыз денеңізден кетеді. Спираль тәрізді болмаңыз. Қысқа, сәл жағымсыз қимылдар жасаңыз.
- Құпия сөзді пайдалануды тоқтатыңыз. Құпия сөзді бұрыңыз, кілтті қайтарып алыңыз, сеансты жарамсыз деп табыңыз. Бұл есікті мәңгілікке жабатын жалғыз қадам.
- Егер өнім мүмкіндік берсе, чатты жойыңыз , ал егер бар болса, кез келген "жақында жойылған" қалтаны босатыңыз
- Қосылған қолданбалар мен жадты тексеріңіз. Кейбір құралдар үзінділерді жадтарда немесе қосуды ұмытып кеткен жоба файлдарында сақтайды.
- Егер бұл жұмыс деректері болса, дұрыс адамға айтыңыз. Қауіпсіздік, менеджер, клиенттік менеджер; жарылыс радиусы кімге тиесілі болса да. Ерте анықталған соң, кейін анықталғанға қарағанда, аз ауыртпалық түсіреді.
- Байланысты тіркелгілердегі әдеттен тыс кірулерге назар аударыңыз . Бақылаусыз ротация - бұл жартылай жұмыс
Егер бұл басқа біреудің деректері болса, сіз оларға тазалау жұмыстарын жүргізуіңіз керек және, ретсіздікке байланысты, ескерту жасауыңыз керек. Бұл ыңғайсыз. Әлемнің сыпайы болуын үміттенгеннен гөрі жақсы.
Қосымша түсініктеме қою арқылы ақпараттың ағуын «қайта жазуға» тырыспаңыз. Қосымша контекст - бұл қосымша көшірме. Тақырыптан шығыңыз.
Оны біріктіру
«Жасанды интеллектке ешқашан не салмау керек» кітабының қысқа нұсқасы ұрыс тізімі емес. Бұл – дене бітімінің бір көрінісі. Егер ол жүйенің құлпын ашса, адамды анықтаса немесе кафеде сізді тітіркендірсе, ол стандартты емес. Сіз әлі де керемет көмек ала аласыз. Сіз модельге үй кілттерін, медициналық құжаттаманы және көршінің поштасын емес, тек эскизді бересіз.
Қысқаша шолу:
- Құпия сөздер, кілттер, токендер немесе бастапқы сөз тіркестері жоқ. Қателік жасасаңыз, айналдырыңыз.
- Нақты жеке куәліктер, толық қаржылық көрсеткіштер, өңделмеген денсаулық сақтау жазбалары немесе құпия ақпарат беру туралы ақпарат жоқ.
- Басқа адамдардың, әсіресе балалардың жеке мәліметтерін ашпаңыз.
- Скриншоттар қосу арқылы жасалады; айтқыңыз келгендей қиып алыңыз.
- Редакциялаңыз, жалған ақпарат беріңіз және әдістерді сұраңыз. Нақты мәселе, жалған белгілер.
- Тарих сақталып қалды деп есептеңіз. Чатботтағы құпияларды жойыңыз, мұрағаттамаңыз.
- Жұмыс орындарына қарапайым жеке өмір емес, қысқа ереже мен жақсы үлгі қажет.
Құралдарды пайдаланыңыз. Олар жобаларды жасауда, пішіндерді жөндеуде және сізді шатастыратын қателіктен арылтуда өте жақсы. Тек мәтін өрісін юмор сезімі бар қойма сияқты қарастыруды тоқтатыңыз. Бұл өте ақылды блендер. Сіз әлі де паспортыңызды блендерге салмауыңыз керек. 🫡
Практикалық мысал: Шағын инженерлік топ үшін редакциялауға арналған алғашқы қателерді түзету туралы қысқаша нұсқаулық құру
Құпиялылық ережелері кәдімгі сейсенбіні сақтаған кезде де, олар қатал естілген кезде де сақталады. Ұлыбританияның бес адамнан тұратын SaaS командасы осы нұсқаулықтағы әдеттерді тұтынушы чатботтарына тіркелгі деректері мен тұтынушының жеке деректерін тастауды тоқтату үшін қалай пайдаланды - жөндеуге көмектесуден бас тартпай.
Сценарий
Әзірлеушілер мен қолдау көрсетушілердің ортақ бір ауыр әдеті бар: аутентификация қатесі жағымсыз көрінген кезде, біреу бүкіл журналды, кезеңдік қосылым жолын және әкімші басқару тақтасының скриншотын «үлгіде контекст болуы үшін» қояды. Өткен тоқсанда стек трассасында тірі көрінетін API кілті және скриншоттың URL жолағында әлі де көрінетін тұтынушының электрондық поштасы болды. Ешкім зиян келтіргісі келмеді. Жылдамдық жеңді. Ас үй жазбаны сақтап қалды.
Оларға дәрістің қажеті жоқ. Оларға қайталанатын қысқаша ақпарат қажет: құпияны түрі бойынша сипаттау, орын толтырғыштармен өңдеу, скриншоттарды қию, жад емес, әдіс сұрау, содан кейін түзетуді оффлайн режимінде жұмыс істейтін жүйелерге қолдану. Тұтынушы чаты әлі де өз орнын табады. Үй кілттері блендерден тыс қалады.
Мақсат - екі секундтық алдын ала сканерлеу арқылы кеңес беру сапасындағы кеңес беру және адамдар ұстанатын қысқаша командалық ереже.
Көмекшіге не қажет
- Санитаризацияланған мәселе пішіні: қате класы, шамамен басталған уақыты, желіні картаға түсіретін хост атаулары жоқ орта (кезеңмен және өндіріспен)
- Тек жалған енгізулер: REDACTED_KEY, USER_TOKEN, customer@example.com, жалған сұраныс идентификаторлары
- Не алынып тасталды (модель нақты мәндерді сұрамауы үшін нұсқаулықта көрсетілген)
- Қажетті нәтиже: ықтимал себептер, тексерулердің орындалуы, патч құрылымы - «менің кілтіммен байланыс» емес
- Құпия сөздерді басқарушыда немесе құпиялар қоймасында тіркелгі деректерін сақтайтын адам
- Бір беттік командалық ереже: тіркелгі деректері жоқ, тұтынушының жеке ақпараты жоқ, жарияланбаған сандар жоқ, әдепкі бойынша редакциялау
Мысал нұсқаулығы
Мақсат: Токенді жаңартқаннан кейін біздің staging API-дегі үзік-үзік 401 қатесін түзетуге көмектесіңіз. Маған құпияларды қоюды сұрамаңыз.
Шектеулер: Мен құпия сөздерді, API кілттерін, токендерді, cookie файлдарын, ішкі хост атауларын және тұтынушы электрондық пошталарын өңдеп қойдым. Журналдағы орын толтырғыштар шынайы мәндердің тек менің компьютерімде ғана бар екенін білдіреді. Ұлыбритания ағылшын тілі. Кіріспе жоқ.
Үлгі үзінді: https://api.example-staging.invalid/v1/session мекенжайына сұрау 401 қайтарды. Тақырып авторизациясы: Тасымалдаушы REDACTED_KEY. Негізгі мәтінде USER_TOKEN мерзімі аяқталғаны айтылған. Скриншот сипаттамасы (қоса берілмеген): тек қате туралы хабарлама; бетбелгі жолағы және тіркелгі ауыстырғышы кесіліп алынған.
Тапсырма: Осы қате класының ең ықтимал үш себебін, жергілікті түрде іске қосуым керек тексерулерді және минималды патч құрылымын тізіп шығыңыз. Егер сізге көбірек ақпарат қажет болса, ақпарат түрін сұраңыз (мысалы, "токен TTL параметрі") - ешқашан шикі құпия үшін емес.
Шығыс: Нөмірленген себептер, содан кейін тексеру тізімі, содан кейін үш пунктте «келесі жолы нені қоюға болмайды» деген жазу.
Оны қалай тексеруге болады
- Ескі үлгідегі қоюды (толық журнал + скриншот) жоғарыдағы сол оқиға түрі бойынша өңделген қысқаша ақпаратпен салыстырыңыз. Кеңес сапасын және модель құпияларды сұрайтынын салыстырыңыз.
- Алдын ала қою сканерлеуі: жібермес бұрын жобада @, ұзын кездейсоқ жолдар және кездейсоқ болу үшін тым ұзын сандарды іздеңіз.
- Жиек регистрі: шынайы болып көрінетін жалған кілтті қосыңыз және жауаптың шынайы мәнді қажет етпестен жұмыс істейтінін растаңыз.
- Шеткі регистр: скриншотты жүктеуден бас тарту; тек қате жолын қайта теріңіз; тексеру тізімінің әлі де көмектесетінін растаңыз.
- Қабылдау тексерулері: (1) ағында тіркелгі деректері жоқ, (2) тұтынушының байланыс деректері жоқ, (3) толтырғыштар жарияланған, (4) шығыс - «кілтіңізді қою» ағыны емес, әдіс/тексеру тізімі, (5) егер бұрын бірдеңе ағып кетсе, ротация сол күні болды.
Нәтиже
Көрнекі нәтиже (жарияланған зерттеу емес, бір шағын инженерлік/қолдау тобы үшін мысал ретінде бағалау): Төрт аптадағы 12 қатені түзету чатында пайдалануға болатын тексеру тізіміне дейінгі орташа уақыт редакциялаумен шамамен 4 минуттан (толық қою) шамамен 6 минутқа дейін аздап өсті - алдын ала қою сканерлеуі және толтырғыштар үшін екі минут қосымша. Маңызды деректер түрлерін (кілттер, тұтынушы электрондық пошталары, шикі қосылым жолдары) қамтитын тақырыптар 12 чаттың 9-ынан 12 чаттың 1-іне дейін төмендеді (ол шолуда ұсталып, сол күні ауыстырылды). Қарапайым гигиеналық тексеру тізімінде (құпиялар жоқ, тұтынушының жеке ақпараты жоқ, толтырғыштар жарияланған, қиылған немесе скриншот жоқ), 12 редакцияланған қысқаша хабарламаның 11-і өтті, ал ескі әдет бойынша 12-нің 3-і өтті. Шектеулер: шағын үлгі, бір команда, өзін-өзі хабарлау уақыты; жеңіл оқиғаларды редакциялау аз қажет етеді; «өтті» - жеткізуші журналдарының зертханалық аудиті емес, сұраныс мәтінін әріптестердің қарауы болды.
Өз нұсқаңызды өлшеу үшін: тыйым салынған деректер түрлері үшін 10 жасанды интеллект түзету ағындарын үлгі етіп алыңыз, содан кейін редакциялау ережесі мен үлгіден кейін 10 үлгіні таңдаңыз; есеп бөлгіштермен есептеледі, сонымен қатар "қатып қалған" сәттен "қолдағы тексеру тізіміне" дейінгі орташа минуттар
Не дұрыс болмауы мүмкін
- Скриншоттарды контрабандалық жолмен алу: Қате қалыпты; URL жолағында әлі де токен бар. Екі рет қиып алыңыз, содан кейін шеттерін тексеріңіз.
- «Тек бір рет» кілттері: Бір ғана ағып кеткен API кілті төлем және тұтынушы жазбаларын аша алады. Дереу бұрыңыз; «бірдеңе болатынын көруді» күтпеңіз.
- Басқа адамдардың деректері: Телефон нөмірі бар тұтынушы шағымын модельге беру сіздің құзырыңызда емес. Өз сөзіңізбен қорытындылаңыз.
- Қойма ретінде чат: Құпияларды тарихта қалдыру тағы бір көшірме жасайды. Қажетті бөліктерді жергілікті жазбаға жылжытқаннан кейін ағынды жойыңыз.
- Кәсіпорын театры: Бекітілген жұмыс орны құралы жұмысты сақтауға көмектеседі; ол зергерлік бұйымдарды жапсыруды тиімді етпейді.
- Тайып кеткеннен кейін айналуды өткізіп жіберу: Кілтті қайтармай чатты жою есікті ашық қалдырады.
Практикалық қорытынды
Жасанды интеллектке ешқашан ұрыс тізімін емес, дене бітімін салмау керек: егер ол жүйенің құлпын ашса, адамды анықтаса немесе сізді кафеде тітіркендірсе, ол стандартты емес. Модельге орын толтырғыштармен эскиз беріңіз, құжаттарды қоймада сақтаңыз және офлайн режимде қолданатын әдістеріңізді сұраңыз. Шексіз кофесі бар пайдалы тағылымдамадан өтушінің үй кілттеріңіздің файл шкафына айналуын екі секундтық үзіліс қалай тоқтатады.
Жиі қойылатын сұрақтар
Жасанды интеллект чатботтарына ешқашан нені салмау керек?
Егер ол жүйенің құлпын ашса, адамды анықтаса немесе сізді кафеде тітіркендірсе, оны қораптан тыс ұстаңыз. Бұған құпия сөздер, API кілттері, токендер, бастапқы сөз тіркестері, мемлекеттік куәліктер, шикі денсаулық және қаржылық жазбалар, құпия ақпарат материалдары және басқа адамдардың, әсіресе балалардың жеке мәліметтері кіреді. Чат құлыпталған тартпа емес; мәтінді өнім мен параметрлерге байланысты сақтауға, өңдеуге және кейде оқыту үшін пайдалануға болады. Модельге үй кілттері емес, орын толтырғыштары бар эскиз беріңіз.
Неліктен адамдар өздері жақсы білсе де, құпияларды жасанды интеллектке салады?
Жылдамдық көп жұмысты атқарады: жағымсыз қате бүкіл журналды оны алып тастаудан гөрі жылдамырақ сезінуге мәжбүр етеді. Чатботтар да сынға ұшырамайды, сондықтан құпиялылық инстинктілері шай ішуге үзіліс жасайды. Модельге әдетте мәселенің пішіні қажет, скриншоттардағы есімдер, токендер, шот нөмірлері немесе беттер емес - бұлар әшекей. Екі секундтық үзіліс жеке бас трансплантациясынан асып түседі.
ChatGPT стиліндегі құралдарға құпия сөздерді немесе API кілттерін қою қауіпсіз бе?
Жоқ. Егер ол бір нәрсенің құлпын аша алса, ол шақыруға жатпайды - құпия сөздер, бір реттік кодтар, сессия cookie файлдары, SSH кілттері, қосылым жолдары, әмиян тұқымдары немесе жеке сертификаттар. Модель дос сияқты құпия сақтай алмайды; мәтін әлі де саяхаттайды, тіркеледі және тарихта қалуы мүмкін. Құпияны түрі бойынша сипаттаңыз, REDACTED_KEY сияқты толтырғыштарды пайдаланыңыз, бұрыннан ағып кеткен кез келген нәрсені айналдырыңыз және нақты тіркелгі деректерін құпия сөз менеджерінде немесе қоймада сақтаңыз.
Сұрау жібермес бұрын қандай жеке ақпаратты өшіруім керек?
Жеке ақпарат тез жинақталады: ұлттық куәліктер, төлқұжат деректері, мекенжайлар, телефон нөмірлері, қызметкер немесе студент куәліктері және туған күндерімен немесе клиникаларымен жұптастырылған толық аты-жөні. Модельге хат жазу үшін нақты пошта индексі қажет емес - оған дыбыс, жеке басын анықтайтын фактілер және сіз қалаған нәтиже қажет. Жалған мысалмен пішімдеуді тексермесеңіз, есімдерді рөлдермен ауыстырыңыз, орындарды жалпылаңыз және бірегей нөмірлерді алып тастаңыз.
Клиент файлдарын, құпия ақпарат келісімшарттарын немесе ішкі кодты тұтынушының жасанды интеллект құралына қоя аламын ба?
Тұтынушы чатына компания кеңесшісі емес, ыңғайлы өнім ретінде қараңыз. Егер сіз оны жеке Gmail жобасында немесе райдшерингте көрсетпесеңіз, оны жалпыға қолжетімді жасанды интеллект чатында - клиенттік колодаларда, жарияланбаған жол карталарында, жалақы кестелерінде, құпия заң жобаларында немесе ішкі хост атаулары бар дереккөзде көрсетпеңіз. Құжатты сипаттаңыз, тазартылған үзіндіні қойыңыз, офлайн режимінде қолданатын құрылымды сұраңыз және егер сізде бар болса, бекітілген жұмыс орны құралын пайдаланыңыз, ал әдепкі бойынша әлі де өңделеді.
Жасанды интеллект сұрауларындағы денсаулық немесе қаржылық мәліметтерді қалай өңдеуім керек?
Шикі жазбасыз тамаша сұрақтар қойыңыз. Жалпы түсініктемелер зертханалық панельдерді, рецепт тізімдерін, сақтандыру куәліктерін, банктік үзінді көшірмелерін немесе ас үй үстелін де түсіретін карта фотосуреттерін жапсырудан гөрі жақсырақ. Шот нөмірлерін және куәлікке ұқсайтын кез келген нәрсені алып тастаңыз. Чатты маманға апару үшін жақтау және тексеру тізімдері үшін пайдаланыңыз - клиникалық дәрігер, бухгалтер немесе есепшоттар үшін құжаттарды сақтау үшін шкаф ретінде емес.
Неліктен басқа адамдардың деректері мен скриншоттары әсіресе қауіпті?
Қойылған жалғыз адам сіз емес: әріптестердің электрондық пошталары, тұтынушылардың телефон нөмірлері, балалардың фотосуреттері немесе қоңыраулардың транскрипциялары олардың келісімінсіз жүйеге түсуі мүмкін. Өз сөзіңізбен қорытындылаңыз, есімдерді рөлдермен ауыстырыңыз және «қызықты» жасау үшін балалардың жеке басын куәландыратын мәліметтерін ешқашан қоймаңыз. Скриншоттар бетбелгі жолақтарын, URL токендерін, Slack аттарын және ашық қойындыларды жасырады - екі рет қиып алыңыз, идентификаторларды бұлдыратыңыз немесе төлқұжаттарды немесе карталарды жүктеудің орнына қатені қайта теріңіз.
Қандай қауіпсіз шақыру үлгілері әлі де сенімді жасанды интеллект жауаптарын алады?
Мәселені нақты анықтап, сәйкестендіруге сараң болыңыз: мақсат, шектеулер, жалған енгізулер, қажетті нәтиже. Орын толтырғыштардың бірегей белгілері, толық өндіріс журналының орнына әдіс сұраңыз, тапсырманы сезімтал бөліктерді өзіңіз толтыратындай етіп бөліңіз және синтетикалық мысалдарды пайдаланыңыз. @ белгілерін, ұзын кездейсоқ перне тәрізді жолдарды, үлкен сандарды және слайдқа қоймайтын атауларды алдын ала қою сканерлеуін іске қосыңыз. Он секунд жалдау ақысын мәңгілікке төлейді.
Егер мен жасанды интеллект чатына ыңғайсыз нәрсе қойып қойсам ше?
Алдымен сол құпия сөзді пайдалануды тоқтатыңыз - құпия сөзді бұрыңыз, кілтті қайтарып алыңыз, сеансты жарамсыз деп табыңыз. Егер өнім рұқсат етсе, чатты жойыңыз, жадтарды немесе жоба файлдарын тексеріңіз, жұмыс деректері екенін дұрыс адамға айтыңыз және әдеттен тыс кірулерді қадағалаңыз. Егер бұл басқа біреудің деректері болса, тазалап, қажет болған жағдайда ескерту жасаңыз. Ағып кетуді қосымша түсініктемемен «қайта жазбаңыз»; қосымша контекст - бұл қосымша көшірме.
Шағын топ жасанды интеллектке қателерді түзету үшін тіркелгі деректерін тастауды қалай тоқтата алады?
Редакциялауды бірінші кезекте қолданыңыз: құпияларды түрі бойынша сипаттаңыз, REDACTED_KEY көмегімен жалған журналдарды және электрондық пошта үлгілерін жазыңыз, не жойылғанын көрсетіңіз және ықтимал себептерді және тексеру тізімін сұраңыз - "менің кілтіммен байланыс" емес. Қысқа адам ережесін қосыңыз - тіркелгі деректері жоқ, тұтынушының PII деректері жоқ, жарияланбаған сандар жоқ, әдепкі бойынша редакциялаңыз - және бір жақсы тазартылған мысалды көрсетіңіз. Нақты тіркелгі деректерін қоймада сақтаңыз және модель әдісті ұсынғаннан кейін түзетулерді офлайн режимінде қолданыңыз.
Сілтемелер
- NCSC — ncsc.gov.uk
- OpenAI — help.openai.com
- OpenAI — openai.com
- Клод — privacy.claude.com
- Google Workspace — knowledge.workspace.google.com
Осыдан кейін оқуға болатын мақалалар:
🔗 Ең үздік жасанды интеллект қауіпсіздік құралдары
Киберқауіптерді анықтайтын және азайтатын қуатты жасанды интеллект қауіпсіздік платформаларын табыңыз.
🔗 Неліктен жасанды интеллект кейде ойдан шығарады?
Неліктен жасанды интеллект галлюцинацияланатынын түсініп, қауіптерді қалай азайту керектігін біліңіз.
🔗 Жасанды интеллект көмегімен тапсырмаларды қалай автоматтандыруға болады
Адамның бақылауын және қатаң ережелерді қосу арқылы қауіпсіз автоматтандыру жұмыс процестерін енгізіңіз.
🔗 Жасанды интеллект технологиясы дегеніміз не?
Жасанды интеллекттің негіздерін және оны енгізудегі жиі кездесетін қиындықтарды зерттеңіз.