ИИ в решениях с высокими ставками: медицина, право и деньги

Некоторые решения обыденны: какую песню включить следующей, какую рекламу вам показать. Если компьютер ошибётся в них, вы пожмёте плечами и пойдёте дальше. Но другие решения могут изменить или даже оборвать жизнь: Есть ли у этого пациента рак? Должен ли этот человек остаться в тюрьме? Сможет ли эта семья получить кредит или сохранить пособие? Это решения с высокими ставками, и системы ИИ всё чаще используются, чтобы принимать их или влиять на них.

Это одна из самых важных и самых спорных областей во всей этике ИИ. Честный ответ звучит не как «ИИ здесь хорош» и не как «ИИ здесь плох». Правда в подлинном противоречии: хорошо построенный ИИ может быть справедливее и последовательнее, чем уставшие, отвлечённые, предвзятые люди — а плохо построенный может подвести тысячи людей разом, незаметно, так, что никто не замечает, пока ущерб не нанесён. Ваша задача в этом уроке — научиться отличать одно от другого.

Что вы узнаете

• Три проверки, которые делают решение решением с «высокими ставками» — и почему они поднимают этическую планку.
• Реальные свидетельства для обеих сторон: где медицинский, юридический и финансовый ИИ действительно помогает, а где он действительно навредил реальным людям.