Почему этика ИИ имеет значение
Ещё не так давно программы делали лишь то, что программист прописал им строка за строкой. Сегодня системы, построенные на искусственном интеллекте (ИИ, artificial intelligence, AI) — программы, которые учатся закономерностям на огромных массивах данных вместо того, чтобы следовать написанным вручную правилам, — помогают решать, какие публикации вы увидите, какую цену заплатите, дадут ли вам кредит, как оценят ваш экзамен и даже что врачу стоит проверить в следующую очередь.
Поскольку такие системы теперь формируют решения, затрагивающие реальные человеческие жизни, их ошибки — уже не безобидные «баги». Ошибка в калькуляторе даёт неверное число. Предвзятая модель кредитного скоринга может тихо отказать тысячам реальных людей в деньгах, на которые они имеют право. Именно эта разница — между сломанной программой и вредом, причинённым человеку, — и есть суть того, что называют «этикой ИИ».
Главная идея этого урока: ИИ мощен, полезен и пришёл надолго — но он поднимает новые вопросы, на которые никакой показатель точности не ответит за нас. Этот первый урок даёт вам карту всего курса: слова, вопросы и простой инструмент мышления, которым вы будете пользоваться в каждом уроке.
Что вы сможете делать после этого урока
- Объяснять простыми словами, что означает «этика», когда мы говорим об ИИ.
- Приводить четыре конкретные причины, почему ИИ поднимает новые этические вопросы, которых не было у обычных программ.
- Применять аргумент масштаба с реальными числами, чтобы объяснить, почему одна предвзятая модель хуже одного предвзятого человека.