Исследователи из Дартмутского колледжа решили проверить, действительно ли компьютерный алгоритм предсказывает поведение рецидивистов лучше, чем человек. Для сравнения взяли программу COMPAS, которая рассчитывает вероятность того, что преступник в течение двух лет после освобождения снова совершит что-то криминальное. COMPAS использует некие шесть параметров, но какие это параметры и как именно программа их оценивает, разработчики алгоритма держат в секрете.
С программой соревновались 400 человек, которых набрали по объявлению в интернете и которые в своей жизни с уголовной криминалистикой ни разу или почти ни разу не сталкивались. Их разбили на группы по двадцать человек, и каждой группе дали на изучение личные дела пятидесяти подсудимых – то есть в сумме количество уголовных дело равнялось тысяче. Ту же тысячу должен был проанализировать и компьютер.
В статье в Science Advances говорится, что и алгоритм, и живые участники эксперимента оценили преступников с одинаковой точностью примерно в 65% – то есть в 65% случаев в подсудимом совершенно правильно подозревали рецидивиста. И здесь важна не столько цифра сама по себе, сколько то, что программа предсказывала поведение не лучше обычных людей – в этом смысле компьютер работал вполне по-человечески.
Тут нужно заметить, что подобные программы в некоторых странах используются не год и не два. Вполне понятно, почему они пользуются известной популярностью: если попросить нас выбрать, чему мы доверяем больше – дорогому софту, разработанному в специальной фирме специальными разработчиками, или двадцати посторонним людям из интернета – то мы, очевидно, выберем софт.
Проблема, однако, в том, что программы пишут люди, перенося в алгоритм погрешности собственного мышления. Никто не спорит, что в некоторых случаях компьютер работает лучше человека, но, вероятно, только не в прогнозировании поведения отдельно взятого преступника.
Авторы работы вообще сомневаются в том, что тут нужны компьютерные методы: они сами написали еще несколько алгоритмов, которые предсказывали рецидивистов по разным признакам, числом от двух до семи, и все эти алгоритмы работали ничуть не точнее живых людей. И возможно, что если бы программы соревновались не с обычными людьми со стороны, а с полицейскими или, например, работниками соцслужб, то «человеческая сборная» могла бы даже и выиграть с заметным отрывом.
Мы уже как-то писали о том, что компьютерные программы перенимают наши культурные стереотипы: так, лингвистические роботы вполне могут «заразиться» расизмом, сексизмом и эйджизмом. Тот искусственный интеллект, который мы можем конструировать сейчас, порой выглядит просто продолжением человеческого интеллекта, пусть работающим намного быстрее, но не лишенным специфических человеческих перекосов.
Вероятно, и в предсказании преступлений произошло нечто похожее. Вывод отсюда довольно банальный: компьютер нужен там, где он действительно может сделать работу лучше человека. В частности, в том, что касается криминалистики, как полагают некоторые специалисты, алгоритмы нужно использовать не для предсказаний индивидуального поведения, а для оценки ситуации в целом, для того, чтобы понять, какие преступления в обществе выйдут на первый план в ближайшем будущем.
По материалам ScienceNews.
Комментарии:
Авторизуйтесь, чтобы оставить отзыв