Assistentes virtuais fazem compras sozinhas e assustam donos

Quem achou que num futuro próximo estaríamos conversando com máquinas, acertou em cheio. Assistentes virtuais como a Alexa, da Amazon, a Siri, da Apple, e o Google Assistente se popularizaram e cada dia ganham novas funções que vão muito além de acionar a playlist preferida, acender ou pagar a luz, informar as notícias do dia ou falar a previsão do tempo.

A praticidade do comando de voz já é usada por muitos consumidores na hora de fazer pesquisas de preços e até compras. O problema é quando a assistente virtual usa sua inteligência artificial e decide fazer encomendas por conta própria.

Quando a empresária Alana Villela, de 37 anos, mudou-se do Rio de Janeiro para São Paulo, decidiu pedir ajuda à Siri para organizar as compras para o novo endereço. Não podia imaginar que, dois meses depois, a assistente do smartphone repetiria o pedido a seu bel-prazer.

O resultado, diz, foi uma conta extra de R$ 897,50 com a compra repetida de pratos, copos e outros apetrechos para o enxoval da casa, na fatura de junho do cartão.

Duas semanas depois, mais uma surpresa: a compra de uma passagem de avião para o Rio, por R$ 550. Alana só soube no dia do voo, quando recebeu notificação da companhia aérea para o check-in e já estava no Rio. Com o cartão de crédito estourado, ela conta que desativou a assistente virtual para evitar mais prejuízos.

“A Siri tem acesso aos meus dados e comprou de forma automática, sem eu solicitar. Acredito que tenha comprado por assimilação, já que há dois meses eu havia feito o mesmo pedido por comando de voz. O primeiro pedido consegui cancelar, a passagem ainda estou tentando resolver com a Gol. Algo que era para facilitar a vida acabou dificultando ainda mais”, reclama Alana, que diz não ter tido retorno da Apple sobre a possível falha na assistente.

Procurada, a Gol disse estar apurando o que aconteceu para resolver o caso. Já a Apple destacou que todos os canais da empresa no Brasil podem ser acessados no site da empresa, mas não comentou sobre a possível falha da assistente.

Erro de compreensão

Dono de duas Alexas, uma TV Smart, tablet e smartphone de última geração, o estrategista digital Luan Vieira, de 25 anos, vive numa casa totalmente conectada, nos Jardins, em São Paulo. A paixão por tecnologia o levou a usar a assistente virtual para compras. Um hábito que deixou de lado depois que, em janeiro do ano passado, foi surpreendido por uma compra indevida.

Ele diz que, após uma breve pesquisa sobre aplicativos de streaming, a Alexa — ao confundir a solicitação — assinou um pacote de TV anual de R$279,90. Ele conta que recorreu ao banco e conseguiu contestar a cobrança. “Fiquei receoso de fazer compras virtuais via Alexa depois disso. Reprogramei-a para que fique conectada apenas no meu Spotify. Desse jeito não corro o risco”, afirma.

O estrategista digital reclama ainda do manual de instruções da assistente virtual que, segundo ele, não alerta para o risco desse tipo de problema e não explica como resolvê-lo.

“Quando o erro aconteceu, tive que buscar na internet o que fazer. Não tinha nada explicando sobre isso no manual de instrução. E até hoje não tive retorno da Amazon”, conta.

A Amazon não comentou sobre a falha apontada por Vieira. A empresa ressaltou, no entanto, o crescimento no número de skills (funcionalidades) adicionadas à Alexa. Hoje existem mais de duas mil skills em português em categorias como jogos, notícias, produtividade, saúde, entre outras.

O Google informou que a assistente virtual da plataforma não oferece, no Brasil, a função de compra direta pelo aparelho. O Google Assistente, no entanto, pode ser usado para direcionar o usuário para site ou app de terceiros. A compra é sempre concluída pelo canal externo, explica a empresa.

Uma pesquisa recente elaborada pelo grupo americano de investimento Loup Ventures mostrou que as assistentes virtuais não compreendem parte dos comandos. Em um teste de 800 perguntas, a Google Assistente respondeu 88% das consultas; já a Siri, 75%; e a Alexa, 72%.

Para o especialista em segurança digital do Instituto de Tecnologia e Sociedade (ITS) Lucas Cabral, o resultado da pesquisa pode ser uma pista para as compras indevidas.

“A inteligência artificial é programada para reconhecer a voz de acordo com cada idioma. No entanto, ao passar constantemente por atualizações, pode não reconhecer determinados verbos e predicados na hora em que o usuário formula uma frase ou um pedido”, explica.

Para o advogado Danilo Doneda, integrante do Conselho Nacional de Privacidade e Proteção de Dados do Brasil, quando as assistentes virtuais passam a tomar decisões por conta própria, fica clara a necessidade de reforçar sistemas de segurança dos dispositivos.

“As assistentes virtuais presumem o que a pessoa deseja. Elas escutam o que os usuários estão falando e estudam o comportamento. Parece-me perigoso fazerem compras sem autorização. Isso demonstra que é preciso reforçar a segurança de dados. A partir do momento em que as empresas coloquem serviços de IA (inteligência artificial) no mercado e há algum tipo de falha é preciso que deem um retorno imediato à sociedade”, avalia.

Termos de uso

Cabral pondera que os usuários também precisam aprender a fazer uso correto da tecnologia. Ele acredita que muitos dos problemas ocorrem porque as pessoas aceitam termos de uso em sites de navegação, muitas vezes, sem ler. Dessa forma, diz, a assistente virtual entende que a compra ou a contratação de um determinado produto ou serviço pode ser feita já que não foi acionada nenhuma trava.

“Sempre vai existir um algoritmo para fazer qualquer coisa no mundo. É preciso muito cuidado para fazer bom uso do produto. A tecnologia ajuda, mas, quando utilizada de forma incorreta, não”.

Doneda destaca, no entanto, que, se for identificada falha nas assistentes virtuais em função de projeto ou desenho da inteligência artificial, pelo direito do consumidor, a responsabilidade é do fabricante.

Saiba como configurar restrição a compras nas assistentes

• Siri:  Acesse “Ajustes” na tela de menu do celular. Clique em “Siri e Busca”, depois em “Impedir que a Siri responda ao comando de voz”. No comando “E aí Siri”, desative “Ouvir ‘E aí Siri'”. Para impedir o acesso à Siri quando o iPhone estiver bloqueado, desative “Permitir Quando Bloqueado”. Caso queria controlar quais apps podem interagir com a Siri, acesse “Ajustes”, “Siri e Busca”, inclua o nome do app e vá em “Pedir à Siri”. Também é possível restringir totalmente a capacidade de usar “Siri e Ditado”. Abra “Ajustes”, “Tempo de Uso”, “Restrições de Conteúdo e Privacidade”, “Apps Permitidos” e toque em “Siri e Ditado”.
• Alexa: Basta acessar a sua conta no site  https://alexa.amazon.com/ ir na página “Configurações”, depois em “Compras por voz” e ativar a opção de “Código por voz”. Solicita um código de voz de 4 dígitos para confirmar compras e pagamentos.
• Google Assistente: No smartphone ou tablet Android, diga “Ok Google, abra as configurações do Google Assistente”. Em “Configurações mais usadas”, toque em “Você Pagamentos”. Ative ou desative a opção “Pagar com o assistente”. Ative ou desative as opções “Confirmar com impressão digital ou rosto” e “Confirmar com o Voice Match”.

Fonte: IG TECNOLOGIA