Негизги ой: Күчтүү, бирок кемчиликсиз эмес
Заманбап ЖИ системалары эссе жаза алат, суроолорго жооп бере алат, тилдерди которо алат жана сүрөттөрдү сүрөттөй алат — көбүнчө ушунчалык жеңил, алар баарын билгендей сезилет. Бирок алай эмес. Ар бир ЖИ системасынын реалдуу, алдын ала болжолдонуучу алсыздыктары бар: ал толук ишеним менен фактыларды ойлоп таба алат (галлюцинация), окутуу маалыматтарында катылган адилетсиз үлгүлөрдү кайталай алат (бир жактуулук), жөнөкөй турмуштук акыл-эс ой жүгүртүүдө жаңылыша алат, ал эми анын билими чектелиш датасында тоңуп калат. Булар сейрек кездешүүчү бузулуулар эмес — алар технология кандай иштээринен түздөн-түз келип чыгат.
Бул сабакта сиз бул каталар эмне үчүн болорун жана эң негизгиси өзүңүздү кантип коргоону үйрөнөсүз: ЖИнин ар бир жообун черновик катары кабыл алыңыз жана ага таянуудан мурун маанилүү нерселердин баарын текшериңиз.
Окуу максаттары
- Галлюцинация эмне экенин жана тил моделдери эмне үчүн ишенимдүү, бирок жалган билдирүүлөрдү чыгарарын түшүндүрүү.
- Бир жактуулук окутуу маалыматтары аркылуу ЖИ системаларына кантип кирерин, жумушка алуу жана жүздү таануудан реалдуу мисалдар менен сүрөттөө.
- ЖИде эмне үчүн турмуштук акыл жок экенин жана анын билими эмне үчүн окутуунун чектелиш датасынан кийин эскирерин түшүнүү.
- Ашыкча ишеним тобокелин түшүнүү: ЖИнин жооптору эмне үчүн авторитеттүү булактар эмес, черновиктер экенин.
- Практикалык «ишен, бирок текшер» алгоритмин колдонуу: айкаштыра издөө, расмий булактарды текшерүү жана ЖИден булактарды суроо — андан соң аларды чын эле текшерүү.
1-чектөө — Галлюцинация: ишенимдүү ойлоп табуулар
Галлюцинация — бул ЖИ бир жалган нерсени далилденген факттай кылып ырастаганда. Типтүү галлюцинацияларга кирет:
- Ойлоп табылган фактылар — эч ким айтпаган «атактуу цитата», болбогон окуя, продуктта жок функция.