La semaine dernière, Ava Kofman a écrit un article intéressant mais terrifiant dans The Intercept à propos de Voice RT. Vous n’avez probablement jamais entendu parler de Voice RT, car c’est une de ces choses que le gouvernement américain fait en secret; dans ce cas, il s'agissait de développer une technologie capable d'identifier positivement une personne par le son de sa voix. Assurez-vous de le lire. C'est une information importante que tout le monde a besoin de savoir.
Notre voix est l'identifiant biométrique parfait; c'est stable et unique.
Il est maintenant facile de saisir l’idée de reconnaître une personne par sa voix. Nous le faisons tous les jours lorsque nous parlons aux personnes proches de nous. La voix d'une personne est assez unique et il ne faut pas beaucoup de puissance de traitement - soit le type organique dans nos têtes, soit le type de silicium dans nos gadgets - pour savoir à qui vous parlez juste en les entendant parler. Mais la NSA a réussi à pousser les choses à l'extrême. Ils ont la capacité d'écouter tout, partout. Si vous utilisez un téléphone public au milieu de nulle part, ils peuvent vous écouter. Ils pourraient même avoir l'autorité de le faire, ce qui signifie que nous pourrions avoir un gros problème assis sur nos tables de chevet ou nos tables basses appelées Google Home et Amazon Echo.
S'exprimant avec The Verge, Albert Gidari, directeur de la protection de la vie privée au Centre Stanford pour Internet et la société, a déclaré que ces produits "sont vulnérables aux demandes d'accès et de divulgation de la part du gouvernement. Je pense que le gouvernement pourrait obtenir une ordonnance d'assistance technique pour faciliter l'analyse, et sous FISA, peut-être aussi pour construire l'outil. " Je suis sûr que Gidari a raison, car le gouvernement peut déjà assigner à comparaître nos téléphones, nos ordinateurs et même nos téléviseurs pour faciliter une enquête. Les sénateurs Wyden (D., Oregon) et Paul (R., Kentucky) pensent que la FISA pourrait également être maltraitée.
Et il n’est pas question pour une agence gouvernementale d’espionner ce que nous disons ou faisons lorsque nous parlons à Alexa ou à Google Home. Ils n'ont pas besoin de cette information. tout ce qu'ils veulent, c'est un enregistrement de nos voix.
Echo et Google Home Store enregistrent tous les éléments que nous disons lorsque nous leur parlons. Les deux transmettent également des données vocales à un serveur cloud pour traitement. Heureusement, chacun n'enregistre qu'après la détection du mot chaud et les données qui quittent votre appareil sont cryptées et anonymisées. Qu'ils puissent intercepter et déchiffrer les données, les demander devant les tribunaux ou les extraire directement de l'appareil, ils n'entendront que des personnes comme vous et moi disant à Assistant ou Alexa de changer de chaîne ou de donner une prévision météorologique - des informations banales qui vous n'essayez pas de garder le secret. La police de Bentonville, dans l'Arkansas, a justement constaté que lorsqu'un Amazone Echo avait été assigné à comparaître dans une affaire de meurtre commis en 2016. Mais encore une fois, ce n'est pas ce que la NSA collectionnait avec Voice RT; ils voulaient juste des exemples de données de voix pour pouvoir les faire correspondre tout en faisant l'espionnage en temps réel.
Ce n'est pas ce que tu dis. C'est le fait que ce soit vous qui le disiez qui le rend intéressant pour la NSA.
En fouillant dans les documents divulgués par Edward Snowden, Kofman a constaté que la NSA collectait des données de reconnaissance vocale depuis des années. Cette technologie a été utilisée pour identifier Saddam Hussein et correspondre à certains enregistrements antérieurs capturés. Des empreintes vocales ont été créées pour Oussama ben Laden et d’autres membres de haut rang d’Al-Qaïda. Un mémo explique comment il a été découvert qu’Abou Moussab al-Zarqaoui était l’orateur de fichiers audio en ligne qui intéressait beaucoup la CIA. Ces documents classifiés montrent En 2004 et 2012, la NSA a perfectionné et utilisé sa technologie de reconnaissance du locuteur dans les opérations de lutte contre le terrorisme et les arrestations internationales de drogue.
Si vous pensez que la meilleure agence d'espionnage du pays, collectant des enregistrements aléatoires de ce que les gens disent d'aider dans la lutte contre le terrorisme ou le trafic de drogue, est acceptable, peu de gens se disputeront avec vous. Google et Facebook (et probablement toutes les autres sociétés Internet) analysent les données collectées pour rechercher des éléments tels que la pornographie enfantine, les abus, la violation du droit d'auteur et les activités terroristes, car quelqu'un estime que c'est pour le plus grand bien. Je ne discuterai pas. Mais Snowden a également révélé que la NSA prévoyait de déployer la même technologie pour empêcher les lanceurs d'alerte comme lui de révéler leurs méfaits des années avant la signature de l'ordre exécutif 13587.
La NSA prévoit d'utiliser la tactique qui permet de capturer Ben Laden pour surveiller les Américains.
Cela va trop loin, et des personnes comme l'ancien conseiller de la Maison Blanche auprès du directeur du renseignement national, Timothy Edgar, s'inquiètent pour notre vie privée et les répercussions d'une agence gouvernementale autoritaire si elles pensent que nous avons fait quelque chose qui ne leur plaît pas. Nous avons tous entendu parler de cas où une ligne très mince a été franchie et traversée et que tout n'était pas tout à fait légal selon l'esprit de la Constitution. En ce qui concerne nos voix, les experts en matière de libertés civiles pensent que Google et Amazon doivent modifier le fonctionnement de Home et de Echo afin qu'aucune donnée vocale ne soit conservée.
Nos voix sont stables. quelque chose que j'ai dit il y a 10 ans peut être identifié positivement par une empreinte vocale comme venant de moi aujourd'hui. Avec des enregistrements vocaux à portée de main, même s’il s’agit de fichiers disant «OK Google, réglez l’éclairage du salon à 50%», il est facile de les utiliser contre nous pour toute enquête ou opération. J'imagine que la NSA dispose de nombreuses données vocales permettant d'identifier une personne qui a servi un verre à un terroriste recherché dans un hôtel ou un agent au guichet dans un aéroport. J'imagine également que ces innocents ont été interrogés puis exécutés avec une ordonnance de bâillon, même s'ils étaient innocents de tout crime et que la NSA, la CIA et le FBI savaient qu'ils étaient innocents.
Ne croyez pas que les programmes comme FISA sont conçus et utilisés uniquement pour nous protéger. Nous avons beaucoup de preuves du contraire.
Cela doit être démasqué et débattu en public. Une technologie qui peut être utilisée pour suivre des journalistes ou exposer leurs sources est dangereuse si elle n’est pas utilisée correctement et ne devrait pas être cachée derrière un mur de la classification gouvernementale. Tandis que des groupes comme EFF et la Freedom of the Press Foundation tentent de le faire, Google et Amazon subissent des pressions pour cesser de sauvegarder et d'analyser les données vocales comme ils le font actuellement. Cela met un frein à un système conçu pour tout analyser et devenir plus intelligent. L'apprentissage automatique nécessite de nombreuses données à analyser pour "apprendre". Google et Amazon doivent s'inquiéter de la collecte et du stockage de ces informations de manière à préserver leur anonymat au lieu de s'inquiéter de la façon dont leurs machines d'apprentissage peuvent apprendre sans les données dont elles ont besoin.
Une machine a besoin de données pour apprendre. Beaucoup de données répétées maintes et maintes fois.
Diriger le doigt vers Alexa et l'Assistant en tant que racine du problème n'est pas bon pour quiconque le trouve utile. Notre gouvernement doit s’attaquer au problème du gouvernement et mettre fin à la surveillance injustifiée des Américains. Et ce n’est pas seulement une affaire américaine; Interpol et le GCHQ britannique ont "travaillé en étroite collaboration" avec la NSA et des programmes de crédit tels que Voice RT "jouent un rôle important dans nos relations avec la NSA". On dit que la Chine a le même type de programme et est maintenant capable d'identifier de manière positive des dizaines, voire des centaines de milliers de citoyens chinois par le son de leur voix automatiquement.
Je ne fais pas confiance à la NSA pour avoir une technologie secrète capable d'identifier n'importe lequel d'entre nous à tout moment et de ne pas l'utiliser de manière inappropriée. Je conviens avec les experts en matière de libertés civiles que cette voie est dangereuse et qu'elle devrait être rendue publique. Je ne suis pas d'accord pour faire pression sur Google et Amazon pour qu'ils arrêtent d'innover en attendant. Nous voyons l'avenir se profiler devant nos yeux et jusqu'à ce que les machines "intelligentes" que Google et Amazon utilisent pour nous le montrer nous montrent qu'elles ont besoin de régner, ne retenons pas l'avenir.
