Microsoft podsłuchiwał graczy Xboksa tak jak i użytkowników Skype

Data: 27.08.2019 21:03

Autor: ziemianin

niebezpiecznik.pl

#codziennaprasowka #informacje #wiadomosci #inwigilacja #Microsoft #podsluchiwanie #prywatnosc #Skype #xbox

Wiele aplikacji z których korzystamy ma dostęp do naszego głosu za pomocą wbudowanych w smartfona, komputer czy konsolę do gier mikrofonu. W niektórych aplikacjach, takich jak Skype, głos — co zrozumiałe — służy do komunikacji z innymi i wiemy że jest przekazywany przez internet. W innych urządzeniach, np. Xboksie, nasz głos jest także wykorzystywany do sterowania zachowaniem urządzenia (lub gry). Okazuje się, że do tego co mówimy przy odpalonym Xboksie lub na Skype dostęp mają nie tylko nasi rozmówcy lub wirtualni przeciwnicy ale także pracownicy Microsoftu, którzy aktywnie nas słuchają.

Microsoft podsłuchiwał graczy Xboksa tak jak i użytkowników Skype

Takie piękne AI, prawie działające

Potrzeba podsłuchiwania użytkowników — jak twierdzi Microsoft — to nie chęć ich inwigilacji, a konieczność. Chodzi o proces “weryfikowania jakości” usług automatycznego rozpoznawania mowy, który jest obsługiwany przez algorytmy i ciągle-uczące się sieci neuronowe, które trzeba ręcznie poprawiać.

W skrócie: Microsoft zatrudnia kilkudziesięciu (kilkuset?) ludzi w słuchawkach na uszach, którzy siedzą gdzieś na sali i weryfikują, czy algorytmy AI poprawnie rozpoznały to, co do Skype’a, Cortany lub konsol Xboksa mówią korzystający z nich ludzie.

Nie chodzi tu o wychwytywanie takich subtelności jak to, że gracz Andrzej powiedział innemu graczowi:

“nie robisz mi łaski, przynosząc bandaże na to pole walki”

choć latwo zrozumieć, że pomyłka w zaledwie jednym słowie tego zdania, mogłaby doprowadzić do niepotrzebnej eskalacji emocji i odwetowego head-shota oraz zaburzenia rozgrywki.

Chodzi o to, że o ile Xbox powinien reagować na komendy tylko po słowach kluczowych “Xbox” lub “Cortana“, a czasem silnik komend głosowych wzbudzał się przez inne zwroty, które ludzie wychwytywali — być może właśnie słowo “łaska“. I wtedy cyk, pracownik Microsoftu robi korektę w algorytmie, aby przypadkowe “robienie łaski” nie wzbudzało więcej Cortany.

Warto tu zaznaczyć, że jeśli chodzi o podsłuchiwanie rozmów na Skype, to nasłuch nie był prowadzony na wszystkim jak leci, a jedynie na rozmowach w usłudze “translacji” (Skype umożliwia “transparentne” i automatyczne tłumaczenie tego co mówimy na język naszego rozmówcy). Zadaniem pracowników była weryfikacja, czy automatyczne tłumaczenia są zrozumiałe.

Niby OK, nie? A jednak cały proces jest pewnym zagrożeniem dla prywatności, bo nagrania, które miały być analizowane zostały wyniesione przez kilku pracowników-poprawiaczy-AI i udostępnione prasie — i to mimo podpisania przez nich NDA w trakcie przyjmowania posady, że nikomu nie zdradzą dla kogo pracują i co robią. A w wyniesionych nagraniach wrażliwych rozmów, np. między skajpowymi kochankami, było bez liku.

Grałem w grę — co robić, jak żyć?

Jeśli jesteś graczem Xboksa albo posiadaczem jakiejkolwiek innej słuchającej usługi Microsoftu (np. Skype). Możesz przejrzeć swoje “nagrania” i skasować je pod tym adresem. Nie ma jednak pewności, że znajdą się tam wszystkie z próbek naszego głosu, do których pracownicy Microsoftu mieli dostęp.

Na koniec zaznaczmy, ze Microsoft, podobnie jak Apple i Google, przyłapane na podobnym podsłuchiwaniu obiecało doprecyzować swoje polityki bezpieczeństwa, aby jaśniej dać użytkownikom znać, że “pomoc w ulepszaniu usługi” może oznaczać, że ktoś będzie słuchał tego jak opowiadamy innym o “robieniu łaski”.

PS. O tym, że duże firmy zatrudniają ludzi do “nasłuchiwania” swoich klientów pisaliśmy już 4 lata temu, kiedy pierwszy z tego typu pracowników się “wygadał”.

Brak komentarzy