У автомобильных автопилотов обнаружены зачатки расизма - они плохо распознают темнокожих пешеходов

Недавно уже выходила статья на тему ошибок автопилота у современных авто «Насколько безопасен автопилот от компании Tesla» (ссылка кликабельна). И вот недавно появилась дополнительная информация на эту тему.

Давно известно, что программисты глючного программного обеспечения будут заявлять всё что угодно, лишь бы прикрыть свою пятую точку от праведного гнева пользователей своих продуктов. Также вышло и с разработчиками систем автономного вождения, которые с умным видом и честными глазами утверждали, что их программное обеспечение одинаково хорошо распознаёт как взрослых светлокожих людей, так и детей, и темнокожих пешеходов. Но учёные из Королевского колледжа в Лондоне провели исследование, опровергнувшее эти слова разработчиков.

Недавно стало известно, что были проверены тщательные исследования 8 систем обнаружения пешеходов, созданных на основе нейросетей. Тестирование было серьёзное, и в нём использовали более 8 000 изображений пешеходов. В результате выяснилось, что системы обнаружения пешеходов у автопилотов на 20 % лучше распознают взрослых, чем детей. Хотя дети при переходе дороги ведут себя более непредсказуемо, и очень важно распознавать их в первую очередь. Также оказалось, автопилот на 7,5 % точнее определяет светлокожих пешеходов, чем темнокожих (что даёт повод обвинить ИИ в зачатках расизма). 

Сами исследователи считают, что проблема распознавания темнокожих возникла не на пустом месте, а поскольку системы автономного вождения преимущественно обучались на изображениях людей со светлой кожей. А это уже интересный факт, учитывая, что чернокожее население чуть ли не на руках носят в западных странах, прощая им многие преступления и хамское отношение к белокожему населению. Там даже появился термин обратный (белый) расизм.

По этому поводу высказался один из авторов исследования доктор Цзе Чжан (Jie Zhang). Он сказал, что глюки систем искусственного интеллекта хорошо задокументированы, например, ИИ-алгоритмы, используемые в крупных компаниях для приёма на работу сотрудников, предпочитают кандидатов-мужчин. А алгоритмы распознавания лиц менее точно распознают темнокожих женщин, чем белых мужчин, поэтому опасность от беспилотных автомобилей очень велика. Если раньше представителям расовых меньшинств могли отказать в жизненно важных услугах, то теперь они будут сталкиваться с серьёзными травмами, попадая под колёса электромобилей с автопилотами.

Также учёными было установлено, что точность распознавания темнокожих людей очень сильно снижается при недостаточной освещённости и низкой контрастности. По их мнению, это будет провоцировать опасные ситуации, и в тёмное время суток пользоваться системами обнаружения пешеходов на основе ИИ пока недопустимо. Это будет приводить к многочисленным человеческим жертвам, учитывая широкое распространение автопилотов и внедрение их в службы такси.

Интересным фактом стало то, что автопроизводители не делятся подробностями о программном обеспечении, используемом для распознавания пешеходов. А поскольку бюрократия в корпорациях обычно мешает оперативному исправлению ошибок, то они могут существовать годами, переходя из одной версии ПО в более новую.

Напишите в комментариях, что вы думаете по этому поводу? Насколько обоснованы переживания исследователей и оправдано ли спокойствие разработчиков системам обнаружения пешеходов на основе ИИ?

Если решать проблему кардинально, то в распоряжении автопилота должны быть датчики движения, определяющие человека, переходящего дорогу, вне зависимости от освещения и цвета кожи. В этом случае иметь значение будет только рост, вернее общие габариты. Поскольку тучного человека система заметит быстрее, чем пешехода тощего телосложения.

Также помощь в определении пешехода могут оказать акустические датчики. Поскольку большинство пешеходов, особенно дети не двигаются полностью бесшумно. Например, будет раздаваться шуршание одежды на ветру, скрип подошвы, разговор, чихание, цокот каблуков у женщин.

Ещё больше интересных статей читайте в блоге «Подводные камни техномира» (ссылка кликабельна).