Meta lançou seu novo modelo Muse Spark AI na quarta-feira como parte de uma grande revisão de seus esforços de IA. É hora de fazer ou morrer para Meta – a empresa não pode pagar investirinvestir bilhões de dólares novamente em algo que não dá certo, como o metaverso. Bem, talvez eles literalmente pode pagar, mas seria muito prejudicial, para não mencionar embaraçoso.
Falando em constrangimento: think about um monte de amigos, familiares e estranhos que você conheceu na faculdade recebendo uma notificação de que você usa o aplicativo Meta AI. Eu vivi essa humilhação e estou aqui para avisar que isso também pode acontecer com você.
O modelo Muse Spark da Meta pode ser novo, mas o aplicativo Meta AI não é. Foi lançado em abril passado e, na época, escrevi um artigo sobre o lançamento do aplicativo. Como acontece quando se relata um aplicativo, baixei o aplicativo. Eu usei.
Em algum momento, o Meta começou a enviar notificações do Instagram às pessoas sobre quais de seus amigos estavam usando o aplicativo Meta AI, provavelmente para incentivá-los a baixá-lo. Já se passou quase um ano. Continuo recebendo mensagens de texto de meus amigos nos quais eles me alertam que o Instagram lhes disse que estou no aplicativo Meta AI. Isso geralmente é considerado um comportamento nada authorized.
No primeiro mês e meio na App Retailer, apenas 6,5 milhões de pessoas baixaram o aplicativo, provedor de inteligência de mercado Figuras de aplicativos nos contou na época. Isso é muita gente, mas não para uma empresa que conta com cerca de 42% de todo o mundo como usuários diários de pelo menos um de seus aplicativos.
Talvez seja por isso que, nos primeiros dias do aplicativo Meta AI, eu me destaquei nos feeds de notificação do Instagram dos meus amigos. (Sim, seus amigos receberão uma notificação completa dedicada ao uso do aplicativo, exibida com tanto destaque quanto um novo seguidor.)
No entanto, as coisas estão melhorando para o aplicativo Meta AI. Ela está vendo um aumento nos downloads depois de lançar seu chatbot renovado, agora ocupando a 5ª posição na App Retailer dos EUA, acima da 57ª posição, segundo Appfigures. É também por isso que devo alertá-lo agora sobre os horrores que você pode enfrentar se usar este aplicativo e o Instagram contar aos seus amigos.
Por mais que eu não queira que as pessoas saibam que instalei um aplicativo com feed de “vibrações” gerado por IA, esse problema é mais profundo. Os aplicativos da Meta estão tão interconectados que é difícil acompanhar quais dados estamos compartilhando, onde e com quem. Por que eu pensaria que meus amigos mútuos do Instagram saberiam que estou no aplicativo Meta AI? (Pelo menos X não contou às pessoas que eu usei o anime waifu de Grok – que também period para trabalho.)
Para acessar o aplicativo Meta AI, é necessário fazer login com uma conta Meta — então, entrei usando a mesma conta que tenho desde a adolescência, que se conecta ao meu Instagram e Fb. A Meta continuará a usar tudo o que eu fizer no Instagram, no Fb e, sim, agora até no aplicativo Meta AI, para me mostrar anúncios direcionados. Então, se eu confiasse na Meta AI sobre um problema com minha menstruação, o Instagram poderia me mostrar anúncios de calcinhas menstruais.
O aplicativo Meta AI nunca pediu permissão para notificar as pessoas sobre meu uso do aplicativo, nem perguntou se eu queria que meus bate-papos de IA fossem usados como materials publicitário. Mas não é necessário, porque provavelmente optei implicitamente por isso em alguns termos do contrato de serviço que nunca li. Quer dizer, também descobri pelo Instagram que meu irmão investiu estranhamente no Eurovision no ano passado, já que todos podemos ver os Reels curtidos uns dos outros. Todos nós sabemos muito uns sobre os outros e, ainda assim, Meta sabe ainda mais.
De certa forma, tive sorte porque a única coisa que as pessoas sabiam sobre meu uso do Meta AI period que eu estava no aplicativo. Alguns usuários compartilharam involuntariamente informações muito mais incriminatórias sobre si mesmos: seus chatlogs de IA.
Como um veterano grisalho do aplicativo Meta AI, posso dizer que na minha época (durante o verão), Meta experimentou um feed Uncover no aplicativo. Meta não levou em conta o fato de que muitos boomers usam seu aplicativo e às vezes são ruins no uso da tecnologia. Mix isso com o facto de que, uma vez que a IA não é actual, as pessoas usarão chatbots para discutir coisas que consideram demasiado íntimas ou embaraçosas para partilhar com outras pessoas. Então, você tem um desastre em suas mãos.
Em breve, pessoas como parceiro a16z Justine Moore começou a notar que o feed de descoberta do Meta AI estava cheio principalmente de usuários mais velhos que não percebiam que estavam compartilhando suas conversas de IA com o mundo.
Às vezes, essas conversas compartilhadas eram benignas: na época, encontrei um homem com sotaque sulista que perguntou: “Ei, Meta, por que alguns peidos fedem mais do que outros?” Em outros casosvimos pessoas compartilharem seu endereço residencial pessoal, informações sobre questões médicas e preocupações íntimas sobre seu casamento.
Para dar algum crédito ao Meta, esses usuários tiveram que pressionar manualmente para publicar nesses bate-papos. Mas um número suficiente de pessoas parecia compartilhar acidentalmente informações privadas que, claramente, havia um problema de design a ser resolvido. (Desde então, Meta removeu este feed do Uncover.)
Pelo menos se o uso do aplicativo Meta AI se tornar uma nova tendência, poderei esfregar na cara dos meus amigos que estive lá primeiro. Mas eu não apostaria nesse futuro. Afinal, ainda existe aquele feed “Vibes”.
