Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Квантовые компьютеры пока не способны взламывать распространённые методы шифрования. Но через пять лет это может произойти. Поэтому эксперты по безопасности уже работают над поиском квантово-безопасных решений.
По словам Калай, сейчас существуют «квантово-безопасные решения практически для всех областей криптографии». Несколько таких методов уже сертифицированы в США. Однако переход от традиционного шифрования к квантово-безопасному — непростая задача, учитывая масштабность и сложность задействованных систем, а в конечном счёте и экономическая.
Поэтому исследователь в области безопасности гораздо больше обеспокоена нынешним ажиотажем вокруг искусственного интеллекта (ИИ). Речь идёт не только о так называемых галлюцинациях, которые могут быть весьма опасны, например, когда речь идёт о советах по питанию и здоровью, но и о защите данных. Здесь важно задаться вопросом, что компании, занимающиеся разработкой ИИ, делают с информацией, которую пользователи доверяют чат-ботам. Как можно предотвратить злоупотребления? И как гарантировать, что системы ИИ не будут использованы террористами, например, для разработки химического или биологического оружия?
В последнем случае, как сказала Калай изданию Taz, подходы, основанные на криптографии, могут помочь снизить риски. ИИ следует рассматривать как потенциального противника и разрабатывать защиту от него. Это помогает понять цели и разработать стратегию, которая не позволит злоумышленникам добиться успеха.
По мнению Калай, ИИ, безусловно, обладает большим положительным потенциалом. Однако существует риск, что развитие ИИ идёт слишком быстро. Она говорит, что у неё много друзей, работающих в Anthropic, OpenAI или Google; её муж работает в OpenAI. По её словам, сотрудники там напуганы. Они очень обеспокоены тем, что «ИИ небезопасен».
Одним из решений для всех участников проекта во всём мире было бы сделать шаг назад и ограничить свои вычислительные мощности, подобно Договору о нераспространении ядерного оружия.
«Это замедлит темпы и даст нам время лучше управлять рисками», — говорит Калай.
Эксперт по безопасности надеется, что все крупные компании, участвующие в проекте, смогут договориться о таком действии, возможно, под руководством соответствующей политической инициативы.