Meta me explicou suas políticas de privacidade de IA de óculos inteligentes. Ainda estou preocupado

eu uso Ray-Bans da Meta de vez em quando quando viajo para tirar fotos, atender ligações e ouvir música. A tecnologia é fascinante, divertida e conveniente.

Eu também sabia que as políticas de privacidade da Meta poderiam ser uma preocupação, mas agora estou mais preocupado com isso do que nunca.

Minhas preocupações aumentaram depois que vários amigos e colegas compartilhou um relatório sobre os prestadores terceirizados da Meta no Quênia serem capazes de visualizar informações confidenciais, como fotos de registros bancários, nudez e encontros sexuais que foram gravados em óculos Meta (o que resultou em um ação coletiva).

Que limites a Meta estabeleceu para proteger a privacidade das pessoas? Eu me debrucei Termos de serviço da Meta on-line e no aplicativo Meta AI, mas isso não ajudou em nada.

Eu queria algumas respostas. Então entrei em contato com a equipe de comunicação da Meta para obter clareza.

Mas mesmo depois de receber a resposta oficial do Meta sobre onde os limites são traçados, ainda estou frustrado e inseguro. Embora muitas pessoas estejam justamente preocupadas com alguém gravando-os secretamente com óculos inteligenteshá também outra questão: quando esses óculos estão potencialmente compartilhando o que você gravou com outras pessoas?

Aqui está uma resposta curta: os óculos da Meta têm terceiros potencialmente examinando seus dados? Sim, às vezes – se você estiver usando serviços de IA. Se você não estiver usando esses serviços de IA, então, de acordo com Meta, você deve estar bem. Mas mesmo assim, não sei onde esse muro de “serviços de IA” fica claramente desenhado. E essa é uma das minhas maiores preocupações.

Meta tem um longo histórico de problemas com privacidade e confiança, que se estende até a última década e Escândalo Cambridge Analytica. Essas questões não surgiram Fones de ouvido VR da Metaque não possui muitos serviços de IA de coleta de dados, mas os óculos inteligentes da empresa sim. E esses serviços continuarão a crescer e a tornar-se mais capazes nos próximos anos. Os populares óculos Ray-Ban da Meta – mais de 7 milhões de pares foram vendidos no ano passado – são os pioneiros em uma onda inteira de óculos AI habilitados para câmera e vestíveis proveniente de diversas empresas, com Google entrando na mistura ainda este ano.

Se você está interessado nos óculos da Meta, que, como conquista técnica, são a câmera da melhor qualidade e habilitados para áudio óculos inteligentes no momento, você precisa manter essas preocupações em mente. E à medida que os óculos inteligentes giram para dispositivos habilitados para IA sempre ligados, só teremos mais perguntas sobre o quão confortável você pode se sentir contando com seus serviços – e o que todas as empresas de tecnologia de IA baseadas em nuvem precisam fazer para tornar essas políticas mais claras.

Abaixo, compartilharei detalhadamente as respostas do Meta para que você possa entender meu raciocínio – e também fazer sua própria avaliação sobre os riscos.

Usando serviços de IA com Meta Ray-Bans

Se você estiver usando IA – por exemplo, para analisar algo que você vê ou para obter uma tradução – então prestadores de serviços terceirizados podem estar olhando o que você está gravando.

Isto é o que a empresa me disse: “Os óculos Ray-Ban Meta ajudam você a usar IA, com viva-voz, para responder perguntas sobre o mundo ao seu redor. A menos que os usuários optem por compartilhar a mídia que capturaram com o Meta ou outros, essa mídia permanece no dispositivo do usuário.

Mas depois há isto: “Quando as pessoas partilham conteúdo com a Meta AI, por vezes recorremos a prestadores de serviços para rever estes dados com o objectivo de melhorar a experiência das pessoas, como muitas outras empresas fazem. Tomamos medidas para filtrar estes dados para proteger a privacidade das pessoas e para ajudar a evitar que informações de identificação sejam revistas”.

A suposição que você pode fazer a partir disso é que sempre que você estiver usando os serviços de IA da Meta, a Meta pode muito bem estar usando prestadores de serviços terceirizados para revisar as informações.

Embora a Meta prometa que a informação será devidamente filtrada para remover dados ou detalhes sensíveis, aquela notícia preocupante dizia que os empreiteiros no Quénia estavam a anotar imagens tiradas com óculos que tinham imagens sensíveis que eram claramente visíveis.

Isso me preocupa especialmente com o que acontece quando as pessoas usam Meta AI para fins de assistência: ou seja, como uma forma de “ver” quando você não consegue com seus próprios olhos. Olhar para documentos pessoais e lê-los seria uma coisa arriscada? Como a Meta não introduziu adequadamente nenhum tipo de recurso criptografado e privado de IA em seus óculos, poderia ser.

A Meta diz o seguinte sobre as proteções de privacidade: “Temos políticas e proteções rígidas que limitam intencionalmente as informações que os contratantes veem”.

Mas, novamente, não sei realmente o que são essas políticas ou barreiras rígidas.

“Tomamos medidas para filtrar esses dados para proteger a privacidade das pessoas e ajudar a evitar que informações de identificação sejam revisadas”, acrescentou Meta.

Isso não ajuda a esclarecer nenhum dos detalhes. Vou confiar aqui, o que não é nada ideally suited.

Devo presumir que qualquer coisa feita por meio de serviços de IA em nuvem, como o uso do Meta, pode ser vista até certo ponto por prestadores de serviços terceirizados. E você também deveria.

Tirando fotos e vídeos com Ray-Bans da Meta

Os óculos do Meta não usam IA o tempo todo, e eu também não. Na verdade, uso os óculos do Meta principalmente para gravar fotos e vídeos, ouvir música e fazer ligações. Eu não uso muito a IA, em parte porque a IA do Meta tem muito pouca interação ou controle sobre meus outros dados pessoais ou mesmo sobre meu iPhone.

Para gravação de fotos e vídeos sem IA, as coisas deveriam ser seguras… eu acho.

Perguntei aos membros da equipe de comunicação se as gravações de fotos ou vídeos que fiz com os óculos, e que não estavam envolvidas em invocações baseadas em IA, poderiam estar sujeitas à visualização por terceiros. Eles disseram o seguinte: “Para ser claro, as fotos e vídeos que os usuários tiram com seus óculos de IA e que são simplesmente armazenados no rolo da câmera do telefone são não usado pela Meta para desenvolver e melhorar a IA. Se você apenas gravar um vídeo ou tirar uma foto usando o botão da câmera dos óculos, essa mídia permanecerá no seu telefone. A menos que você opte por compartilhar a mídia capturada com o Meta ou outros, essa mídia permanecerá no seu dispositivo.”

Isso parecia promissor. Mas com as configurações dos óculos do Meta, o armazenamento fica um pouco turvo… literalmente. Nas configurações de privacidade dos óculos do aplicativo Meta AI, um botão de alternância do Cloud Media afirma “permitir que suas fotos e vídeos sejam enviados para a nuvem do Meta para processamento e armazenamento temporário”.

A mídia na nuvem significaria que minhas fotos e vídeos pessoais estariam abertos a possíveis anotações de terceiros? Segundo Meta, não. De acordo com Meta, quaisquer comandos que usem IA para enviar fotos ou usem modos de captura automática ativados ao alternar para Cloud Media também serão seguros.

Nas palavras da empresa: “Certos recursos, como compartilhamento de seus óculos usando sua voz (‘Ei Meta, envie uma foto’), importação automática contínua de mídia ou captura automática, onde a câmera tira fotos ou vídeos automaticamente quando você inicia o recurso (útil para momentos em que você deseja capturar conteúdo sem acionar manualmente a câmera por meio do botão ou voz), podem exigir o envio de suas fotos e vídeos para a nuvem do Meta para processamento e armazenamento temporário. Se você se inscrever em serviços de mídia em nuvem, as fotos e vídeos enviados do frames ou importados automaticamente para o seu telefone não estão sujeitos a anotações humanas. A ativação de serviços de mídia em nuvem é opcional e não ativada por padrão.

Meta não outline claramente o que é exatamente “Cloud Media”, além de um native de armazenamento temporário para suas fotos e vídeos para que possam ser processados ​​​​com comandos de voz. E o que me preocupa é como um muro é criado em torno da mídia “privada” versus mídia “conectada à IA”. Isso me dá vontade de desativar o Cloud Media, o que significaria que as fotos e os vídeos seriam armazenados apenas na biblioteca de fotos do meu telefone.

O que deve ser feito com os óculos de IA agora?

Ainda gosto dos recursos de câmera e áudio dos óculos inteligentes e estou intrigado com os recursos de IA que estão por vir. Mas também estou muito preocupado com a incerteza sobre onde é traçada a linha entre o que é potencialmente anotado por terceiros e o que permanece privado. Meta está usando terceiros para ajudar a treinar IA ou possivelmente moderar conteúdo. É um lembrete de como tantos serviços de IA são baseados na nuvem e estão fora de nosso controle.

Fico ainda mais preocupado pensando nos relatos de Meta querendo adicionar reconhecimento facial e muito mais com seus óculos inteligentes.

Enquanto isso, mais óculos de IA estão chegando e também dispositivos de IA equipados com câmeras. O Google é o próximo. E todas essas empresas precisam deixar muito mais claro como estão usando os dados desses dispositivos, como estão protegendo nossos problemas de privacidade e como nós, usuários, podemos gerenciá-los – se é que podemos gerenciá-los. Não é nada fácil entender como os óculos da Meta lidam com os dados de IA ou para onde eles estão sendo enviados. Espero que esta história ajude você a entender melhor onde as linhas podem estar.

Mesmo assim, tenho que admitir que me sinto muito menos propenso a usar os óculos da Meta para qualquer coisa pessoal ou sensível a dados. Óculos de férias? Uma ferramenta para filmagens sociais rápidas para o trabalho, estou transmitindo mesmo assim? Experimentos com IA? Eu penso que sim.

Mas se o Meta pretende ser uma ferramenta profundamente assistencial para nós por meio de wearables de IA e não quer que todos chamando-os de “óculos pervertidos”, como as pessoas já são, precisa fazer melhor e mais rápido.