Иногда даже самые продвинутые алгоритмы дают сбой. Эта фраза почти идеально описывает случившуюся недавно ситуацию, о который впервые заговорил портал The Daily Mail. Она произошла в соц. сети Facebook, когда местный внутренний алгоритм после показа видео с присутствием нескольких темнокожих мужчин спрашивал у пользователей, хотят ли они продолжить просмотр видео с приматами.

Первоначально ролики с темнокожими были опубликованы на странице The Daily Mail. В них показываются стычки оных с белыми гражданами и правоохранителями. Как объяснили в Facebook, компания постоянно и непрерывно работает над улучшением ИИ-алгоритмов, которые иногда создают такие неприятные прецеденты. В будущем ничего такого больше повториться не должно, а система, выводившая опрос, была временно остановлена.

Пресс-секретарь Facebook Дэни Левер по этому поводу говорит, что алгоритм совершил недопустимую ошибку. Стоит отметить, что винить систему в предвзятом отношении нельзя: в прошлом алгоритмы также делали ошибки. Особенно по отношению к темнокожим, распознать которых на видео для них не так уж и легко. Например, 6 лет назад Google Photo пометил фотографию темнокожего мужчины, как фото с гориллой. Тогда, как и сейчас, компаниям пришлось приносить свои извинения.
Источник.