Автоматизированные пылесосы iRobot Roomba уже много лет перемещаются по домам с помощью инфракрасных датчиков. Тем не менее, компания оснастила некоторые из своих последних моделей Roomba камерами видимого диапазона. Как оказалось, эти камеры могут фиксировать изображения людей в компрометирующих позициях, и эти изображения могут просачиваться в Сеть во время прохождения через глобальную цепочку данных. В 2020 году изображение на котором женщина сидит на унитазе со спущенными наполовину брюками попало в Facebook.
Эта фотография является частью набора из пятнадцати изображений полученных MIT Technology Review, которые изначально были размещены в группах Facebook, на серверах Discord и на других форумах венесуэльскими подрядчиками. Эти подрядчики работали в Scale AI, компании из Сан-Франциско, которая платит работникам из более бедных стран за маркировку изображений с целью обучения алгоритмов машинного обучения. Компания Scale AI получила более двух миллионов изображений от iRobot в рамках более масштабной работы с участием нескольких компаний, занимающихся маркировкой данных по обучению алгоритмов для текущих и будущих устройств iRobot.
По словам iRobot, изображения переданные компаниям занимающимся маркировкой данных, были сделаны "специальными роботами-разработчиками с аппаратными и программными модификациями, которых нет и никогда не было в потребительских продуктах iRobot для покупки". Эти устройства разработки перемещались по домам сотрудников iRobot и добровольцев, нанятых сторонними поставщиками данных. Эти люди подписали соглашения позволяющие компании собирать данные, включая видео во время их работы. iRobot пометил каждое из этих устройств зеленой наклейкой "идет видеозапись", но оставил на усмотрение сотрудников и волонтеров "удалять все записи, которые они считают конфиденциальными из любой комнаты в которой работает робот".
Компания не хотела делиться конкретными соглашениями подписанными этими людьми поэтому неясно знали ли они, что изображения снятые роботами будут просматриваться людьми размечающими данные. Тем не менее, генеральный директор iRobot Колин Энгл заявил MIT Technology Review, что "iRobot прекращает отношения с поставщиком услуг который слил изображения, активно расследует этот вопрос и принимает меры, чтобы помочь предотвратить подобную утечку в будущем". Scale AI также ясно дала понять, что публикация обучающих изображений в социальных сетях является нарушением соглашения, подписанного его подрядчиками.
Тем не менее, соблюдение такого соглашения может быть затруднено, особенно если вы полагаетесь на подрядчиков расположенных по всему миру. Конкурент Scale AI, Hive также работает с подрядчиками, и MIT Technology Review спросил генерального директора компании Кевина Гуо о том, как специалисты по маркировке данных делятся обучающими изображениями в социальных сетях. Генеральный директор ответил: "Это распределенные работники… Вы должны предположить, что люди… просят друг друга о помощи. Политика всегда гласит, что вы не должны этого делать, но это очень трудно контролировать… мы не думаем, что у нас есть надлежащий контроль, учитывая нашу рабочую силу".
Эта проблема выходит далеко за рамки iRobot и роботов-пылесосов в целом. Маркировка данных - это целая отрасль, и спрос на эту услугу будет только расти по мере того, как машинное обучение будет улучшаться и становиться более распространенным. Камеры прикрепленные к устройствам разработки iRobot направлены вверх, что позволяет компании собирать обучающие изображения, включающие широкий спектр предметов домашнего обихода, помимо мебели вокруг которой должны перемещаться роботы Roomba. Понятно, что iRobot и многие другие компании работают над обучением алгоритмов машинного обучения, которые лягут в основу следующего поколения "умных" устройств с более широкими возможностями. Все эти компании требуют, чтобы вы пригласили их устройства в свой дом и согласились с условиями обслуживания.
