Минулого тижня Ава Кофман написала цікавий, але жахливий твір у переході про «Голос RT». Ви, мабуть, ніколи раніше не чули про Voice RT, оскільки це було однією з тих речей, які уряд США робить таємно; в цьому випадку вона розробляла технологію, здатну позитивно ідентифікувати когось за звуком їхнього голосу. Обов’язково прочитайте. Це важлива інформація, яку кожен повинен знати.
Наш голос - ідеальний біометричний ідентифікатор; це стабільно і унікально.
Тепер ідею впізнати когось за їхнім голосом легко зрозуміти. Ми робимо це щодня, коли розмовляємо з близькими нам людьми. Голос людини досить неповторний, і це не потребує багато процесорної потужності - або органічного роду в наших головах, або кремнієвого типу в наших гаджетах, - щоб знати, з ким ви спілкуєтесь, просто почувши, як вони говорять. Але АНБ змогла донести справи до крайності. Вони мають здатність слухати все, скрізь. Якщо ви користуєтеся платним телефоном посеред нізвідки, вони можуть слухати. Вони можуть навіть мати повноваження це робити, а це означає, що ми можемо мати великі проблеми, сидячи на наших тумбочках або журнальних столиках під назвою Google Home та Amazon Echo.
Розмовляючи з The Verge, Альберт Гідарі, директор конфіденційності Центру Інтернету та суспільства в Стенфорді, сказав, що ці продукти "вразливі до вимог уряду щодо доступу та розкриття інформації; я думаю, уряд міг би отримати наказ про технічну допомогу для полегшення сканування, і під FISA, можливо, і для створення інструменту ". Я впевнений, що Гідарі має рацію, оскільки уряд вже може винести в суд на наші телефони, наші комп’ютери та навіть телевізори, щоб полегшити розслідування. Сенатори Вайден (Д., Орегон) та Пол (Р., Кентуккі) вважають, що FISA також можуть бути зловживані таким чином.
І це не проблема урядового агентства, що шпигує за тим, що ми говоримо чи робимо, коли говоримо з Alexa чи Google Home. Їм ця інформація не потрібна; все, що вони хочуть - це запис наших голосів.
І Echo, і Google Home зберігають записи речей, про які ми говоримо, розмовляючи з ними. Вони також передають голосові дані на хмарний сервер для обробки. На щастя, кожен запис записується лише після виявлення гарячого слова, а будь-які дані, що залишають ваш пристрій, зашифровані та анонімізовані. Чи можуть вони перехоплювати та розшифровувати дані, вимагати їх через суди чи витягувати їх прямо з пристрою. Все, що вони почують, - такі люди, як ви та я, говорять Помічнику чи Алексі про те, щоб змінити канал або дати прогноз погоди. ви не намагаєтесь зберегти таємницю. Поліція штату Арканзас в Бентонвіл виявила саме те, що в справі про вбивство в 2016 році в Амазонській ехо було видано позов до суду. Але знову ж таки, це не те, що НСБ збирала з Voice RT; вони просто хотіли отримати деякі зразкові дані голосу, щоб вони могли відповідати цьому під час виконання шпигунської справи в режимі реального часу.
Це не те, що ти кажеш. Саме той факт, що саме ви це говорите, робить це цікавим для АНБ.
Копаючи документи, що просочилися Едвардом Сноуденом, Кофман виявив, що АНБ протягом багатьох років збирає дані про розпізнавання голосу. Ця технологія була використана для ідентифікації Саддама Хуссейна та відповідності деяким минулим записам, які були зняті. Голосні відбитки для Осама Бін Ладена та інших високопоставлених членів Аль-Каїди були створені, і в одному дописі розповідається про те, як Абу Мусаб аль-Заркаві був визнаний оратором в онлайн-аудіофайлах, якими ЦРУ дуже зацікавило. Ці класифіковані документи показують, що між 2004 та 2012 рр. АНБ удосконалила та застосувала технологію розпізнавання ораторів у контртерористичних операціях та міжнародних арештах з наркотиками.
Якщо ви вважаєте, що головне шпигунське агентство країни збирає випадкові записи того, що люди кажуть, щоб допомогти у боротьбі з тероризмом чи незаконним обігом наркотиків, все одно з вами не буде багато сперечатися. Google та Facebook (і, мабуть, будь-яка інша Інтернет-компанія) сканують зібрані дані на предмет таких речей, як дитяча порнографія чи зловживання, порушення авторських прав та терористична діяльність, оскільки хтось вважає, що це на користь. Я не буду сперечатися. Але Сноуден також виявив, що АНБ планує впровадити ту саму техніку, щоб не допустити винуватців, як він, викривати свої проступки за роки до підписання Виконавчого наказу 13587.
АНБ планує використовувати тактику, яка допомагає спіймати Бін Ладена для опитування американців.
Це надто далеко, і люди, як колишній радник Білого дому директора національної розвідки Тімоті Едгар, переживають за нашу конфіденційність та наслідки з боку владної установи, якщо вони думають, що ми сказали чи зробили щось, що їм не подобається. Всі ми чули випадки, коли дуже тонку лінію проходили і перетинали, і все було не зовсім законно відповідно до духу Конституції. Що стосується наших голосів, експерти з громадянської свободи вважають, що Google та Amazon повинні змінити, як функціонують Home та Echo, щоб не зберігалися голосові дані.
Наші голоси стабільні; щось, про що я говорив 10 років тому, можна позитивно визначити за допомогою голосового відбитка як те, що йде від мене сьогодні. З голосовими записами під рукою, навіть якщо це файли, які говорять про щось на кшталт "Добре Google, зменште освітлення вітальні до 50%", їх легко використовувати проти нас для будь-яких розслідувань чи операцій. Я думаю, що в АНБ є безліч голосових даних, які можуть ідентифікувати людину, яка подає напої розшукуваному терористу в готелі, або агента за касою в аеропорту. Я також думаю, що цих невинних допитували, а потім виконували доручення, навіть якщо вони були невинні в будь-яких злочинах, і НСА та ЦРУ та ФБР знали, що вони невинні.
Не вірте розмові про те, що такі програми, як FISA, розроблені та використовуються виключно для захисту нас. У нас є багато доказів протилежного.
Це потрібно маскувати та обговорювати публічно. Технологія, яка може бути використана для відстеження журналістів або викриття їх джерел, є небезпечною, якщо вона не використовується правильно і не повинна ховатися за стіною урядової класифікації. Хоча такі групи, як EFF та Freedom of Press Press, намагаються зробити це, на Google і Amazon існує тиск, щоб припинити збереження та аналіз голосових даних так, як це роблять зараз. Це ставить досить заслінку на систему, розроблену для того, щоб проаналізувати все та стати розумнішим. Машинне навчання потребує великої кількості даних для аналізу знову і знову, щоб «навчитися». Google і Amazon повинні турбуватися про збирання та зберігання все таким чином, щоб вони залишалися анонімними, а не турбувалися про те, як їхні навчальні машини можуть вчитися без необхідних даних.
Машині потрібні дані для навчання. Багато даних повторюється знову і знову.
Вказівка пальцем на Alexa та Assistant як на вирішення проблеми не добре для тих, хто вважає їх корисними. Нам потрібно зосередити увагу на тому, що уряд у нас є, і припинить необґрунтований нагляд за американцями. І це не лише справа США; Інтерпол та британська GCHQ "тісно співпрацювали" з АНБ та кредитними програмами, такими як Voice RT, як "грають важливу роль у наших стосунках з АНБ". У Китаї, як кажуть, є однотипна програма, і тепер вона здатна позитивно визначити десятки чи, можливо, сотні тисяч китайських громадян за звуком їхнього голосу автоматично.
Я не довіряю АНБ мати секретну технологію, яка може ідентифікувати будь-кого з нас у будь-який час та не використовувати її неналежним чином. Я погоджуюся з експертами з громадянської свободи, що це небезпечний шлях і його слід оприлюднити. Я не згоден з тиском Google і Amazon припинити інновації, поки ми чекаємо. Ми бачимо, як майбутнє розгортається на наших очах, і поки «розумні» машини Google і Amazon не застосовують його для того, щоб показати нам, що їм потрібно царювати, не давайте стримувати майбутнє.
