Александр Спиридонов: «ИИ — это черная коробка, подконтрольная только ее разработчику»

Телекоммуникационная немецкая компания Deutsche Telekom представила смартфон, в который вместо приложений встроен искусственный интеллект. Презентация состоялась в Испании в рамках Mobile World Congress. Об этом сообщает агентство Reuters.

Александр Спиридонов, руководитель лаборатории информационной и сетевой безопасности компании «Криптонит» рассказал Национальной ленте новостей, какое будущее у подобных технологий. В эксклюзивном комментарии изданию он поделился, насколько безопасно сегодня использовать ИИ в своем телефоне и какие у этого есть подводные камни.

«Разработчики концепции подразумевают, что их приложение сможет перенять на себя типовые задачи других приложений. Технически такое приложение возможно создать уже сейчас, например, сервисы “Яндекс” и голосовой помощник “Алиса” уже частично реализуют такой функционал. Однако остаётся вопрос с его полноценным внедрением и реализацией. Подружить такую “Алису” с телефоном, а также реализовать мощь ИИ через голосовое управление, одновременно поддерживая клиент-серверные экосистемы тысяч приложений, не получится до тех пор, пока функционал такого приложения не будет поддерживаться Android/iOS на уровне ОС, и не будет активно использоваться разработчиками сторонних приложений», — поделился эксперт.

Александр Спиридонов отметил, что с развитием ИИ обычные приложения продолжат находиться в телефоне. Он рассказал, что к технологиям искусственного интеллекта есть много вопросов с точки зрения безопасности. 

«Обычные приложения никуда не денутся. Например, разработчикам банковских приложений придётся заранее закладывать возможности доступа ИИ к банковским данным, а также выдавать необходимые разрешения ИИ. Встает вопрос о доверии данных искусственному интеллекту со стороны человека и со стороны организации, предоставляющей приложение. ИИ — это черная коробка, которая подконтрольна только ее разработчику. Поэтому такая концепция опасна с точки зрения сбора данных о человеке и его личной жизни. Если раньше хоть какая-то информация о действиях пользователя оставалась только внутри телефона, то теперь любое действие будет собираться ИТ-гигантами, владельцами чат-ботов… Никто не знает, какие данные они собирают на самом деле, как они обрабатываются и куда передаются», — считает Александр Спиридонов.

Специалист поделился тем, что стоит ожидать от введения подобной технологии в повседневное пользование. 

«Станут возможны случаи, когда ИИ, в результате взлома или при сбое алгоритма, “случайно” отправит личные сообщения или фото друзьям и даже в сеть. Или случайно спишутся деньги с карты. Как расследовать такие преступления? Следует ожидать появления способов обхода защиты приложений и подтверждений операций через ИИ-помощника в телефоне, который обладает необходимыми правами доступа», — подвел итоги эксперт.