Жасалма интеллект тутумдарындагы жактуулук (bias)
Машиналык окутуу тутуму орточо алганда так болуп туруп, ошол эле учурда адамдардын белгилүү бир тобуна карата адилетсиз болушу мүмкүн. Ушул айырма биз жактуулук (bias) деп атаган нерсе, ал ЖИ этикасындагы эң маанилүү түшүнүктөрдүн бири.
Бул сабакта сиз жактуулук деген эмнени билдирерин (жана эмнени билдирбешин) так үйрөнөсүз: ал тутумга кайсы этаптарда акырындык менен кирип кетерин, эң белгилүү реалдуу окуяларды, эмне үчүн "адилеттик" бир гана нерсе эмес, тескерисинче адам жасай турган тандоо экенин жана ар бир чечимдин чынчыл чектөөлөрүн үйрөнөсүз. Биз реалдуу сандарды, реалдуу документтелген окуяларды жана Борбордук Азияга жакын мисалдарды колдонобуз.
Эмнени үйрөнөсүз
- Жактуулуктун (bias) (тутумдук адилетсиздик) жана кокус катанын (шум/noise) ортосундагы айырма, сандар менен көрсөтүлөт.
- Жактуулук машиналык окутуу тутумуна кире турган беш жер, ар бирине конкреттүү окуя менен.
- Эмне үчүн "раса" же "гендер" мамычасын өчүрүү жактуулукту жоготпойт (прокси өзгөрмөлөр).
- Кайтарым байланыш циклдери (feedback loops) кичинекей жактуулукту убакыт өткөн сайын кантип чоңойтору.
- Үч белгилүү документтелген окуя: COMPAS, Amazon жумушка алуу куралы жана Gender Shades.
- "Адилеттиктин" бири-бирине карама-каршы келе турган үч аныктамасы жана алар эмне үчүн кагылышары.
- Жактуулукту кантип аныктоо (топторго бөлүнгөн баалоо) жана кантип азайтуу керек, ар бир чечимдин чынчыл чектөөлөрү менен.
- Эмне үчүн англис/батыш маалыматтарында үйрөтүлгөн моделдер кыргыз ысымдарында, жүздөрүндө жана тилинде начар иштейт.
Негизги идея: жактуулук "кээде жаңылуу" менен бирдей эмес
Ар бир ЖИ тутуму ката кетирет. Бул өзү жактуулук эмес. Ката жактуулукка айланганы — качан каталар адамдардын бир тобуна экинчисине караганда оорураак тийгенде, кайталануучу, мыйзам ченемдүү түрдө болот.
Эки негизги сөз:
- Кокус ката (шум): бирдей чачыраган каталар. Кээде модель эркек тууралуу, кээде аял тууралуу, кээде шаардык адам тууралуу, кээде айылдык адам тууралуу жаңылат — эч кимге өзгөчө артыкчылык бербей. Эгер кимге зыян тиерин алдын ала айта албасаңыз, бул жөн эле шум.