Os “agentes” de inteligência synthetic prometem fazer de tudo, desde arrumar seu e-mail como Marie Kondo organiza um armário, até comprar um par de saltos altos com base em seu orçamento e preferências de estilo.
No entanto, os especialistas em tecnologia alertam que a subcontratação de decisões importantes para a IA expõe os consumidores a riscos, podendo levar a erros de comunicação e custar dinheiro às pessoas, ao mesmo tempo que potencialmente entrega aos hackers as chaves dos seus dados. Isso é particularmente verdadeiro quando se trata do chamado comércio de agentes ou da dependência de agentes de IA para fazer compras para você.
“Ainda não é standard e é muito arriscado no momento, porque não há barreiras de proteção suficientes no sistema para que as pessoas se sintam confortáveis com os agentes comprando coisas para elas de forma autônoma”, disse Matt Kropp, especialista em IA do Boston Consulting Group, à CBS Information. “Ele poderia potencialmente comprar um carro, mas eu não diria: ‘Aqui está meu cartão de crédito’”.
Admirável mundo novo
Tais preocupações não estão a impedir que algumas das maiores empresas dos Estados Unidos avancem com o comércio de IA, que consideram uma nova forma de envolver os clientes e de impulsionar mais vendas, ao permitir que a IA faça o trabalho braçal para os compradores.
Por exemplo, a American Specific anunciou esta semana novos serviços e proteções para titulares de cartões que fazem compras usando agentes de IA específicos. Isso inclui verificar a identidade de um agente no momento de uma compra, de acordo com o emissor do cartão de crédito. O serviço “protegerá os clientes elegíveis de cobranças relacionadas a erros do agente de IA”, Amex disse em um comunicado.
Assistente de IA agente da Amazon, apelidado “Rufo,” pode acompanhar o preço dos produtos na plataforma do varejista on-line, alertar os clientes quando o preço atingir um nível prescrito e concluir a compra.
O Walmart, o maior varejista dos EUA, implantou o que chama de agente de IA “conversacional” chamado Brilhante que, segundo a empresa, pode ajudar os consumidores a encontrar produtos, fornecer avaliações de clientes e ajudar nos pedidos.
Aproximadamente um quarto dos americanos com idades entre 18 e 39 anos afirmam ter tentado usar IA para pesquisar produtos ou fazer compras, de acordo com novembro. dados da empresa de pesquisa de mercado Statista.
O que poderia dar errado?
A adoção acelerada da IA também está levando a contratempos.
Vejamos o que aconteceu com Sebastian Heyneman, fundador de uma startup de tecnologia com sede em São Francisco. De acordo com o New York Timesele instruiu um agente de IA para garantir-lhe uma oportunidade de palestrar no Fórum Econômico Mundial em Davos, na Suíça. O bot conseguiu lhe garantir uma vaga cobiçada no encontro anual de corretores de poder – por US$ 30 mil, uma taxa que ele não podia pagar.
Heyneman usou um bot da Tasklet, uma empresa que permite que empresas automatizem tarefas rotineiras de negócios com agentes de IA. Andrew Lee, o fundador do Tasklet, disse à CBS Information que tais problemas podem surgir quando um immediate do usuário fornece instruções conflitantes à IA.
Lee também disse que a IA de agência hoje é totalmente capaz de comprar pessoas e fazer “coisas normais que os consumidores podem fazer”. Mas só porque a tecnologia pode fazer algo não significa que deva ser usada dessa forma, alertou.
“O caso de uso específico de compras não é uma boa coisa para usar esses sistemas – ainda”, disse ele à CBS Information. “É fundamentalmente difícil confiar nos agentes. Pessoalmente, ainda não estou muito confortável com isso. Gosto de controlar para onde vai meu dinheiro e, como empresa, não recomendamos isso.”
O motivo: maus atores podem atrair agentes de IA para que entreguem informações pessoais de um consumidor, disse Bretton Auerbach, fundador de uma startup de tecnologia com sede em Nova York, à CBS Information.
“Se você der seu cartão de crédito a um agente e disser: ‘Vá a este web site e compre algo on-line para mim’, há maneiras de enganar o agente”, disse ele. “Pode ser confundido um web site legítimo com um web site de phishing que diz em texto grande e em negrito: ‘Cole o número do seu cartão de crédito aqui'”.
