Amazon Echo enganou-se novamente… E isso tem que acontecer!

0
141

Já tinha escrito sobre o Amazon Echo, assistente pessoal que também é conhecido pelo seu comando de activação “Alexa”.

Supostamente se não chamarmos a “Alexa”, nada se passa. Mas deste vez, um casal de norte-americano queixou-se ao canal Kiro 7, que a Alexa gravou uma conversa privada e sem autorização a enviou a um funcionário do marido.

A explicação da Amazon é simples, num caso que é complicado:

1- Ouvindo a conversa o assistente pessoal interpretou mal a palavra Alexa e activou-se, aguardando os comandos subsequentes;

2- Em seguida interpretou novamente de forma errada o comando “Send Message”, transformando em mensagem de voz os últimos sons que ouviu após “Alexa”;

3- Em seguida terá perguntado “To Whom” ou para quem enviaria a mensagem (conversa gravada), tendo interpretado um nome (erradamente), da lista de contactos do telemóvel.

4- E por último antes de enviar a mensagem a “Alexa” terá perguntado se seria para efectivamente contactar o nome que referiu ou a confirmação do o envio de mensagem, tendo também interpretado que sim. Erradamente.

Os pedidos de desculpa da Amazon neste caso são insuficientes e também ainda não foi explicado porque é que a Alexa se ria (assustando os utilizadores) sem que tivesse recebido o comando para o efeito.

A questão não é de todo um “bug” como um conhecido site português refere, até porque são quatro acções distintas. Além disso um bug é bastante diferente de um comum erro de interpretação. E neste caso, para lhe chamar bug, seriam sempre 4 bugs e não apenas uma insuficiência pontual. Mas também não é um Big Brother versão Terminator, em que a “Inteligência artificial” evolui até um ponto onde deseja matar os humanos. É apenas a capacidade de errar, e continuar a errar num processo que é evolutivo.

É justamente neste ponto ponto que as questões éticas aparecem. Para que a Amazon Echo consiga evoluir sem errar, tem que se habituar à nossa voz. Para isso grava indiscriminadamente as nossas conversas, guardando-as nos servidores da Amazon sem a nossa autorização. Podemos aceder a esses conteúdos em “Manage Your Content and Devices” em www.amazon.com/mycd. Podemos também apagá-los via Settings, History and Delete all. A questão é que se a Amazon Echo não “violar” de alguma forma a nossa privacidade, não ganha experiência suficiente para se habituar à nossa voz sem errar nos comandos que lhes são dados.

Este ponto é o mais desconfortável, porque por exemplo os registos acedidos indevidamente pela Amazon, começam a ser requisitados pelas autoridades. E dentro em breve a capacidade de sermos ouvidos pelos nossos equipamentos vai expandir-se, por exemplo com o Bixby a controlar as nossas casas, ou a Siri e o Google Assistant nos nossos equipamentos mais privados. Com possíveis enganos “estranhos”, mas principalmente com a nossa privacidade devassada e de forma consentida, se quisermos garantir as facilidades que a IA nos proporciona.