Галлюцинациялар: чоң тил моделдери эмне үчүн ойдон чыгарат
Негизги ой: Чоң тил модели (large language model, LLM) сизге текши, ишенимдүү, грамматикасы кемчиликсиз сүйлөмдү берип койот — бирок ал такыр жалган болушу мүмкүн. Жасалма интеллектте муну биз галлюцинация деп атайбыз: модель чын эмес нерсени бекем факт катары айтат. Ал атайлап калп айтып жаткан жок, бузулуп калган да эмес. Ал так өзү жасалган иш үчүн эмне кылса, ошону кылып жатат — туура угулган текст чыгарат. Ал текст чын эле туурабы деген өзүнчө маселе, аны модель эч качан текшербейт.
Бул сабак сизди галлюцинацияларды күтүүгө, аларды таанууга жана жөнөкөй адат менен алардан коргонууга үйрөтөт: ишен, бирок текшер.
- Галлюцинация деген эмне, жөнөкөй тил менен: ишенимдүү, текши жана жалган.
- Түпкү себеби: LLM ынанымдуу текстти болжолдойт; ал фактыларды чындык маалымат базасынан издебейт.
- Галлюцинациялар көбүнчө кездешкен классикалык коркунучтуу аймактар (шилтемелер, статистика, мыйзамдар, медициналык/каржылык кеңештер, өмүр баяндар, жакынкы окуялар).
- Чыныгы эскертүүчү окуялар — ичинде ЖИ ойлоп тапкан сот иштерин келтиргени үчүн жазаланган юристтер.
- Галлюцинация сизди тайгылтканга чейин аны кантип таануу керек.
- ЖИ айткан фактыларды текшербей эч качан жарыялабаш үчүн кайталануучу текшерүү процесси.
- Негиздөө (grounding — RAG жана веб-байланышы бар режимдер) галлюцинацияларды азайтат, бирок аларды толук жоготпойт.
Галлюцинация — бул тил модели факт катары берген, бирок жалган, эч нерсеге негизделбеген же ойдон чыгарылган каалаган жооп. Кыйын жери — ал кандайча ката экени. Модель какшап, тайсалдап же бош калтырбайт. Ал боштукту такыр эле акылга сыярлык нерсе менен толтурат — ынанымдуу ат, ынанымдуу дата, ынанымдуу цитата, эч жакка алып барбаган ынанымдуу веб-шилтеме.