Все, от заявлений о приеме на работу до заявок на получение кредита, становится автоматизированным с помощью искусственного интеллекта, появление, которое одних волнует, а других беспокоит. Профессора Майкл Кернс и Аарон Рот изучают потенциал «социально осознанных алгоритмов», которые ускоряют получение информации на основе данных, уменьшая предвзятость при принятии алгоритмических решений.
Майкл Кернс, профессор компьютерных и информационных наук и директор-основатель Центра наук о сетях и данных Уоррена, и Аарон Рот, адъюнкт-профессор компьютерных и информационных наук, принявший двухсотлетний срок в 1940 году, являются соавторами новой книги Этический алгоритм: наука о разработке социально осознанных алгоритмов. Книга теперь является основой отчета в серии Brookings на тему ИИ и предвзятость. Являясь частью Инициативы Института Брукингса по искусственному интеллекту и новым технологиям, сериал исследует потенциальные предубеждения искусственного интеллекта и открывает дискуссию о них под руководством ученых в надежде создать путь к большей справедливости.
Благодаря машинному обучению, позволяющему автоматически принимать все более сложные и персонализированные решения, Кернс и Рот делятся недавними примерами серьезной предвзятости, вызванной плохо контролируемыми алгоритмами. К ним относятся инструменты проверки резюме с предубеждением против слова «женщины» и алгоритм медицинских вмешательств, которые привели к худшим результатам для чернокожих пациентов.
В своем отчете Brookings Кернс и Рот пишут о мерах предосторожности, которые необходимо принять для защиты от этого явления:
Общество должно и впредь требовать, чтобы важные решения были справедливыми, конфиденциальными и прозрачными, даже если они становятся все более автоматизированными… необходимое решение двоякое: способ систематического обнаружения «плохого поведения» с помощью алгоритмов до того, как оно сможет причинить масштабный вред, и строгий методика его исправления.
В конечном счете, Кернс и Рот настаивают на более жестком регулировании процесса принятия решений с помощью машинного обучения. Они считают, что этический алгоритмический дизайн может определить новое будущее развития ИИ и что, хотя эти вмешательства потребуют серьезных организационных изменений со стороны аудиторских агентств, наука, стоящая за социально-ориентированными алгоритмами, готова к действию.
Полный отчет читайте на Brookings.
