AI бейімділігі дегеніміз не?

Жасанды интеллект барлық жерде бар - тыныш сұрыптайды, бағалайды және ұсыныстар жасайды. Бұл өте ыңғайлы... кейбір топтарды алға жылжытып, басқаларын артта қалдырғанша. Егер сіз жасанды интеллектке бейімділік деген не , оның неліктен тіпті жетілдірілген модельдерде де пайда болатыны және өнімділікті төмендетпей оны қалай азайтуға болатыны туралы ойларыңыз болса, бұл нұсқаулық сізге арналған.

Осыдан кейін оқуға болатын мақалалар:

🔗 GPT нені білдіреді
GPT атауы мен шығу тегінің қарапайым ағылшынша түсіндірмесі.

🔗 Болжамды жасанды интеллект дегеніміз не
Болжамдық модельдер тарихи және нақты деректерден нәтижелерді қалай болжайды.

🔗 Ашық бастапқы кодты жасанды интеллект дегеніміз не
Анықтамасы, негізгі артықшылықтары, қиындықтары, лицензиялары және жоба мысалдары.

🔗 Бизнесіңізге жасанды интеллектті қалай енгізуге болады
Қадамдық жол картасы, құралдар, жұмыс процестері және өзгерістерді басқарудың негізгі элементтері.

Қысқаша анықтама: AI Bias дегеніміз не?

бейімділік пайда болады. Бұл көбінесе теңгерімсіз деректерден, тар өлшеу таңдауларынан немесе жүйенің құрылып, пайдаланылатын кеңірек контекстінен туындайды. Бейімділік әрқашан зиянды емес, бірақ бақылаусыз қалдырылса, ол зиянды тез арада арттыруы мүмкін. [1]

Пайдалы айырмашылық: бейтараптық – шешім қабылдаудағы бұрмалану, ал кемсітушілік – бұрмалану әлемде тудыруы мүмкін зиянды әсер. Барлық бейтараптықты әрқашан жоя алмайсың, бірақ әділетсіз нәтижелерге әкелмейтіндей етіп оны басқару керек. [2]

Неліктен бейтараптықты түсіну сізді шынымен де жақсартады 💡

Таңқаларлық, солай ма? Бірақ жасанды интеллектке бейімділіктің не екенін сізге:

• Дизайнда жақсырақ - сіз әлсіз болжамдарды ертерек байқайсыз.

• Басқаруда жақсырақ - сіз келісімдерді қолмен сермеудің орнына құжаттайсыз.

• Әңгімелесуде жақсырақ - көшбасшылармен, реттеушілермен және зардап шеккен адамдармен.

Сонымен қатар, әділдік көрсеткіштері мен саясатының тілін үйрену кейінірек уақытты үнемдейді. Шынымды айтсам, бұл жол сапарына дейін карта сатып алғанмен бірдей - мінсіз, бірақ көңіл-күйге қарағанда әлдеқайда жақсы. [2]

Табиғатта кездесетін жасанды интеллектке бейімділіктің түрлері 🧭

Жасанды интеллект өмірлік циклі бойынша қателіктер пайда болады. Командалар жиі кездесетін үлгілер:

• Деректерді іріктеудегі біржақтылық - кейбір топтар жеткіліксіз ұсынылған немесе жоқ.

• Белгілік бейімділік – тарихи белгілер алдын ала ескертулерді немесе адамдардың шулы пікірлерін кодтайды.

• Өлшеу қателігі – сіз шынымен бағалайтын нәрсені көрсетпейтін проксилер.

• Бағалаудың біркелкілігі – тест жинақтары белгілі бір популяцияларды немесе контексттерді жіберіп алады.

• Орналастыруға бейімділік - дұрыс емес жағдайда қолданылатын жақсы зертханалық модель.

• Жүйелік және адами бейімділік - кең ауқымды әлеуметтік үлгілер мен командалық таңдау технологияға еніп келеді.

Стандарттар органдарының пайдалы ойлау моделі бейімділікті адами, техникалық және жүйелік санаттарға топтастырады және тек модельді өзгертуді ғана емес, әлеуметтік-техникалық

Бейтараптықтың пайда болуы 🔍

1. Мәселені тұжырымдау - мақсатты тым тар анықтаңыз және өнім қызмет етуі керек адамдарды алып тастайсыз.

2. Деректерді іздеу - тарихи деректер көбінесе өткен теңсіздіктерді кодтайды.

3. Функция таңдаулары - сезімтал атрибуттарға арналған проксилер сезімтал атрибуттарды қайта жасай алады.

4. Оқыту - мақсаттар әділдікке емес, орташа дәлдікке оңтайландырылады.

5. Тестілеу - егер сіздің күту жиыныңыз бұрмаланған болса, сіздің көрсеткіштеріңіз де бұрмаланған.

6. Бақылау - пайдаланушылардағы немесе контексттегі өзгерістер мәселелерді қайта тудыруы мүмкін.

Реттеушілер әділеттілік тәуекелдерін тек модельге сәйкес келу уақытында ғана емес, осы өмірлік цикл бойынша құжаттауға баса назар аударады. Бұл барлығын қамтитын жаттығу. [2]

Шеңберлерге бармай-ақ әділдікті қалай өлшейміз? 📏

Олардың барлығын бірыңғай өлшеу мүмкін емес. Қолдану жағдайыңызға және аулақ болғыңыз келетін зияндарға негізделіп таңдаңыз.

• Демографиялық паритет - іріктеу көрсеткіштері топтар бойынша бірдей болуы керек. Бөлу сұрақтары үшін жақсы, бірақ дәлдік мақсаттарына қайшы келуі мүмкін. [3]

• Теңдестірілген мүмкіндіктер - жалған оң және шынайы оң сияқты қателіктер деңгейі ұқсас болуы керек. Қателіктердің құны топ бойынша әртүрлі болған кезде пайдалы. [3]

• Калибрлеу - бірдей балл үшін нәтижелер топтар арасында бірдей ықтимал болуы керек. Баллдар адамдардың шешімдеріне әсер еткен кезде пайдалы. [3]

Құралдар жинағы бос орындарды, графиктерді және бақылау тақталарын есептеу арқылы мұны практикалық етеді, осылайша сіз болжауды тоқтата аласыз. [3]

Шын мәнінде жұмыс істейтін бейімділікті азайтудың практикалық тәсілдері 🛠️

Бір ғана күмәнді оқ емес, көп деңгейлі жеңілдету шараларын қарастырыңыз

• Деректерді аудиттеу және байыту - қамтудағы олқылықтарды анықтау, заңды болған жағдайда қауіпсіз деректерді жинау, құжаттарды іріктеу.

• Қайта өлшеу және қайта үлгілеу - ауытқуды азайту үшін жаттығу үлестірімін реттеңіз.

• Өңдеу кезіндегі шектеулер - модель ымыраға келуді тікелей үйренуі үшін мақсатқа әділдік мақсаттарын қосыңыз.

• Қарсылас пікірталас - модельді сезімтал атрибуттарды ішкі көріністерден болжау мүмкін болмайтындай етіп үйретіңіз.

• Кейінгі өңдеу - тиісті және заңды болған кезде әр топ үшін шешім қабылдау шегін калибрлеу.

• Адамның цикл ішіндегі тексерулері - түсіндірілетін қорытындылары мен эскалация жолдары бар жұп модельдері.

AIF360 және Fairlearn сияқты ашық бастапқы кодты кітапханалар көрсеткіштерді де, азайту алгоритмдерін де ұсынады. Олар сиқырлы емес, бірақ сізге жүйелі бастапқы нүкте береді. [5][3]

Бейтараптықтың маңызды екеніне нақты өмірдегі дәлел 📸💳🏥

• Бет-әлпетті талдау - кеңінен сілтеме жасалған зерттеулер коммерциялық жүйелердегі гендерлік және тері типі топтары арасындағы дәлдіктің үлкен айырмашылықтарын құжаттады, бұл саланы бағалаудың жақсырақ тәжірибелеріне итермелейді. [4]

• Жоғары тәуекелді шешімдер (несие, жұмысқа алу, тұрғын үй) - тіпті ниетсіз болса да, біржақты нәтижелер әділдік пен кемсітушілікке қарсы міндеттерге қайшы келуі мүмкін. Аудармасы: сіз тек код үшін ғана емес, салдар үшін де жауаптысыз. [2]

Тәжірибеден қысқаша әңгіме: анонимді түрде жүргізілген жұмысқа қабылдау аудитінде бір топ техникалық рөлдердегі әйелдердің қайта шақырудағы кемшіліктерін анықтады. Қарапайым қадамдар - жақсырақ стратификацияланған бөлу, мүмкіндіктерді шолу және топ бойынша шекті бағалау - дәлдіктің аз ғана ымырасымен олқылықтың көп бөлігін жапты. Кілт бір ғана айла-шарғыда емес, қайталанатын өлшеу-азайту-мониторинг циклінде болды.

Саясат, заң және басқару: «жақсылық» қандай болады 🧾

Сізге заңгер болу міндетті емес, бірақ әділдік пен түсіндірмелілікті қамтамасыз ету үшін жобалау қажет:

• Әділдік қағидаттары – адамға бағытталған құндылықтар, ашықтық және өмірлік цикл бойынша кемсітушілікке жол бермеу. [1]

• Деректерді қорғау және теңдік - жеке деректерге қатысты болған жағдайда, әділдік, мақсатты шектеу және жеке құқықтар бойынша міндеттерді күтіңіз; салалық ережелер де қолданылуы мүмкін. Міндеттемелеріңізді ертерек белгілеңіз. [2]

• Тәуекелдерді басқару - кең ауқымды жасанды интеллект тәуекел бағдарламаларының бөлігі ретінде қателіктерді анықтау, өлшеу және бақылау үшін құрылымдық құрылымдарды пайдаланыңыз. Оны жазып алыңыз. Қарап шығыңыз. Қайталаңыз. [1]

Айта кетейін, қағазбастылық тек бюрократия емес; егер біреу сұраса, бұл сіздің шынымен жұмыс істегеніңізді дәлелдеу

Салыстыру кестесі: жасанды интеллектке бейімділікті жеңуге арналған құралдар мен құрылымдар 🧰📊

Осылардың әрқайсысы сізге құрылым, көрсеткіштер және ортақ сөздік қорын беру арқылы контекстіңіздегі жасанды интеллекттің қандай қателіктері бар екенін

Қысқа, аздап пікірге негізделген жұмыс процесі 🧪

1. Қандай зияннан аулақ болғыңыз келетінін көрсетіңіз - бөлу зияны, қателіктер көрсеткішінің теңсіздігі, қадір-қасиетке келтірілген зиян және т.б.

2. Сол зиянмен сәйкес келетін метриканы таңдаңыз - мысалы, қателік паритеті маңызды болса, теңестірілген коэффициенттер. [3]

3. Бүгінгі деректер мен модель бойынша бастапқы көрсеткіштерді іске қосыңыз

4. Алдымен үйкеліс деңгейі төмен түзетулерді қолданып көріңіз - деректерді жақсырақ бөлу, шекті бағалау немесе қайта салмақтау.

5. Қажет болса, өңдеу кезіндегі шектеулерге көшіңіз

6. Нақты пайдаланушыларды білдіретін күту жиынтықтарын қайта бағалаңыз

7. Өндірісте бақылау - тарату кезінде ауысулар болады; басқару тақталары да ауысуы керек.

8. Құжаттардың арасындағы ымыраға келу - әділдік контекстке байланысты, сондықтан неге Y теңдігіне қарағанда X теңдігін таңдағаныңызды түсіндіріңіз. [1][2]

Реттеушілер мен стандарттау органдары өмірлік циклді ойлауға баса назар аудара береді, себебі ол жұмыс істейді. [1]

Мүдделі тараптарға арналған коммуникациялық кеңестер 🗣️

• Тек математикалық түсіндірулерден аулақ болыңыз - алдымен қарапайым кестелер мен нақты мысалдарды көрсетіңіз.

• Қарапайым тілмен айтыңыз - модель нені әділетсіз жасауы мүмкін және кімге әсер етуі мүмкін екенін айтыңыз.

• Беткі компромисстер - әділдік шектеулері дәлдікті өзгертуі мүмкін; егер ол зиянды азайтса, бұл қате емес.

• Жоспардың күтпеген жағдайлары - мәселелер туындаған жағдайда қалай кідірту немесе кері қайтару керек.

• Тексеруді шақыру - сыртқы шолу немесе қызыл топ құру көрінбейтін жерлерді анықтайды. Ешкімге ұнамайды, бірақ көмектеседі. [1][2]

Жиі қойылатын сұрақтар: шын мәнінде жасанды интеллектке қатысты бейімділік дегеніміз не? ❓

Жағымсыз жай ғана деректер емес пе?
Тек деректер ғана емес. Деректер маңызды, бірақ модельдеу таңдаулары, бағалау дизайны, орналастыру контексті және командалық ынталандырулардың барлығы нәтижелерге әсер етеді. [1]

Мен бейтараптықты толығымен жоя аламын ба?
бейтараптықты әділетсіз салдарға әкелмейтіндей етіп басқаруға тырысасыз

Қандай әділдік метрикасын қолдануым керек?
Зиян түрі мен домен ережелеріне негізделіп таңдаңыз. Мысалы, егер жалған оң нәтижелер топқа көбірек зиян келтірсе, қателік коэффициентінің паритетіне (теңдестірілген коэффициенттер) назар аударыңыз. [3]

Маған заңды шолу қажет пе?
Егер сіздің жүйеңіз адамдардың мүмкіндіктеріне немесе құқықтарына әсер етсе, иә. Тұтынушыға және теңдікке бағытталған ережелер алгоритмдік шешімдерге қолданылуы мүмкін, және сіз өз жұмысыңызды көрсетуіңіз керек. [2]

Қорытынды ескертулер: тым ұзын, оқымадым 🧾✨

жасанды интеллектке қатысты бейімділік деген не деп сұраса , міне, ең оңай жауап: бұл жасанды интеллект нәтижелеріндегі жүйелі ауытқулар, олар нақты әлемде әділетсіз әсер етуі мүмкін. Сіз оны контекстке сәйкес метрикалармен диагностикалайсыз, көп деңгейлі әдістермен азайтасыз және оны бүкіл өмірлік цикл бойынша басқарасыз. Бұл бір ғана қателік емес - бұл өлшеудің, құжаттаманың және кішіпейілділіктің тұрақты соққысын талап ететін өнім, саясат және адамдар туралы сұрақ. Менің ойымша, бұл жерде ешқандай күмән жоқ... бірақ жақсы тексеру тізімдері, адал келісімдер және жақсы әдеттер бар. Иә, бірнеше эмодзи ешқашан зиян тигізбейді. 🙂

Сілтемелер

1. NIST арнайы басылымы 1270 - Жасанды интеллекттегі бейімділікті анықтау және басқару стандартына қарай . Сілтеме.

2. Ұлыбританияның Ақпарат комиссары кеңсесі - Әділдік, бейтараптық және кемсітушілік туралы не айтасыз? Сілтеме

3. Fairlearn құжаттамасы - Әділдіктің жалпы көрсеткіштері (демографиялық паритет, теңестірілген коэффициенттер, калибрлеу). Сілтеме

4. Буоламвини, Дж., және Гебру, Т. (2018). Жыныс реңктері: коммерциялық гендерлік жіктеудегі қиылысу дәлдігінің айырмашылықтары . FAT* / PMLR. Сілтеме

5. IBM Research - AI Fairness 360 (AIF360) таныстырылымы . Сілтеме

Ресми AI көмекші дүкенінен ең соңғы AI-ді табыңыз

Біз туралы