Новая кукла фирмы Mattel — Hello Barbie, позиционируется как первая кукла с ИИ, которая может разговаривать с ребенком.
Интерактивная игрушка является отличным шпионским девайсом, так как оснащается Wi-Fi и всё время поддерживает связь с серверами компании-производителя.
ИБ-исследователь Мэтью Якубовски (Matthew Jakubowski) рассказал о том, что куклу можно взломать. За технологией искусственного интеллекта Hello Barbie стоит компания ToyTalk. Игрушка действительно способна поддерживать связный диалог со своим маленьким пользователем. Всё сказанное ребенком записывается и отправляется на серверы компании ToyTalk, в свою очередь, подключенные к сервису распознавания речи Google.
Серверы обрабатывают полученную фразу и возвращают ответ, который кукла озвучивает ребенку при помощи синтезатора голоса. Все разговоры ребенка с устройством сохраняются в облаке в виде MP3-файлов. Каждая игрушка привязана к собственному аккаунту, ID которого известен родителям. Разговорами детей с интерактивной куклой даже предлагают делиться.
«Мы позволяем родителям контролировать данные их детей, начиная от предоставления родительского согласия и заканчивая тем, что мы позволяем им прослушивать и удалять любые взаимодействия ребенка с Hello Barbie», — говорят представители компании ToyTalk.
Любому человеку, хоть немного знакомому с правилами сетевой безопасности, уже должно стать ясно, что игрушка небезопасна. Куда отправляются записанные разговоры, что будет, если записи попадут не в те руки, кто может их прослушать? К примеру, точно известно, что MP3-файлы могут услышать сотрудники правоохранительных органов.
В пользовательском соглашении компании ToyTalk сказано, что если в общении ребенка с Hello Barbie будет обнаружено нечто подозрительное, то есть компания заподозрит, что ребенок (или люди рядом с ним) в опасности или подвергается насилию, ToyTalk уведомит об этом полицию. Данная функция активна даже тогда, когда режим «разговора» отключен. Hello Barbie слушает всё, что происходит вокруг, постоянно находясь в режиме always-on, что не редкость для IoT-устройств.
Компания ToyTalk ничуть не смущается этого факта. В пользовательском соглашении написано, что в худшем случае, ToyTalk рассмотрит все поступившие судебные иски и претензии, в установленным законом порядке. Специалист по информационной безопасности Мэтью Якубовски и вовсе рассказал о том, что куклу можно взломать. Будто мало было того факта, что все разговоры с куклой хранятся на серверах ToyTalk в незашифрованном виде и доступны как минимум сотрудникам компании.
Якубовски сумел узнать имя Wi-Fi сети, к которой подключена кукла, ее MAC-адрес, ID аккаунта, к которому привязана игрушка, а также получил доступ к части MP3-файлов. При желании куклу можно превратить в переносной шпионский гаджет, который записывает всё, что слышит. Заодно она станет и точкой входа в чужую Wi-Fi сеть.
«Обладая такой информацией, можно узнать, где живут владельцы куклы, чем они занимаются. Это просто вопрос времени – когда кто-нибудь подменит сервер компании собственным и заставит куклу произносить все, что придет в голову», — сказал Якубовски в интервью.
