Главная мысль: мощный, но не безупречный
Современные системы ИИ пишут эссе, отвечают на вопросы, переводят с языка на язык и описывают изображения — часто так гладко, что кажутся всезнающими. Но это не так. У каждой системы ИИ есть реальные, предсказуемые слабости: она может выдумывать факты с полной уверенностью (галлюцинация), повторять несправедливые закономерности, скрытые в её обучающих данных (предвзятость), ошибаться в простых рассуждениях на уровне здравого смысла, а её знания замирают на дате отсечения. Это не редкие сбои — они прямо вытекают из того, как устроена сама технология.
В этом уроке вы узнаете, почему происходят такие ошибки и, самое главное, как защитить себя: относитесь к каждому ответу ИИ как к черновику и проверяйте всё важное, прежде чем на него полагаться.
Цели обучения
- Объяснять, что такое галлюцинация и почему языковые модели выдают уверенные, но ложные утверждения.
- Описывать, как предвзятость попадает в системы ИИ через обучающие данные, на реальных примерах из найма и распознавания лиц.
- Понимать, почему у ИИ нет здравого смысла и почему его знания устаревают после даты отсечения обучения.
- Осознавать риск чрезмерного доверия: почему ответы ИИ — это черновики, а не авторитетные источники.
- Применять практический алгоритм «доверяй, но проверяй»: перекрёстный поиск, проверка официальных источников и запрос источников у ИИ — с их обязательной проверкой.
Ограничение 1 — Галлюцинации: уверенные выдумки
Галлюцинация — это когда ИИ утверждает нечто ложное так, будто это доказанный факт. Типичные галлюцинации включают:
- Выдуманные факты — «знаменитая цитата», которую никто никогда не произносил, событие, которого не было, функция, которой у продукта нет.