Компания Figma, известная своими инновациями в области дизайна, столкнулась с неожиданной проблемой. Их новая функция ИИ, Make Designs, была временно приостановлена. Причиной стало обнаружение, что ИИ мог создавать дизайны, очень похожие на уже существующее приложение "Погода" от Apple. Эту проблему впервые заметил пользователь Энди Аллен, который и поднял тревогу.

Дилан Филд, сооснователь Figma, быстро отреагировал на возникшую ситуацию. Он опроверг предположения о том, что ИИ обучался на данных существующих приложений или контенте пользователей. По его словам, причина скорее всего крылась в "слишком маленькой вариативности" алгоритмов, которые использовались для генерации дизайнов.

Чтобы решить эту проблему и предотвратить возможные будущие инциденты, Figma приняла решение о полной проверке качества своей системы генерации дизайнов. В это время функция Make Designs будет отключена, чтобы команда могла провести все необходимые исправления и улучшения.

Этот инцидент подчеркивает важность тщательной проверки и тестирования ИИ-технологий перед их внедрением. Figma показывает пример ответственного подхода к разработке и внедрению новых технологий, ставя на первое место качество и удовлетворенность пользователей.

Случай с Figma напоминает всем разработчикам о необходимости постоянного контроля за ИИ-системами и их обучением, чтобы избежать непредвиденных ситуаций, которые могут повлиять на репутацию компании и доверие пользователей. В то же время, это демонстрирует готовность компании идти на серьезные шаги для обеспечения высокого уровня качества своих продуктов.