Недавно стало известно, что автономные автомобили имеют сложности с точностью распознавания детей и темнокожих пешеходов на дороге в сравнении со светлокожими взрослыми.

Исследователи из Королевского колледжа в Лондоне провели тестирование восьми систем обнаружения пешеходов, использующих искусственный интеллект. Результаты показали, что способность программного обеспечения обнаруживать взрослых превосходит обнаружение детей на 20%. Также выявлено, что системы более точно распознают светлокожих пешеходов на 7,5% больше, чем темнокожих.

Эта проблема связана с неравномерностью обучения моделей искусственного интеллекта на фотографиях, где преобладают люди со светлой кожей.  Однако исследователи также обнаружили, что системы обнаружения значительно хуже работают с темнокожими людьми в условиях низкой контрастности и яркости, что может создать опасные ситуации, особенно ночью.

Производители автономных автомобилей не раскрывают подробности о программном обеспечении, используемом для обнаружения пешеходов, но ученые полагают, что часто они используют открытые системы с открытым исходным кодом, подобные тем, которые были протестированы в данном исследовании.