O procurador -geral do Texas, Ken Paxton, anunciou hoje planos de lançar uma investigação na Meta Plataforms Inc. e no personagem.ai sobre os chatbots das empresas que estão sendo usados pelos jovens como ferramentas de saúde mental.
Paxton (foto) acredita que as ferramentas de IA podem ser utilizadas por crianças vulneráveis que podem acreditar que os bots representam cuidados profissionais. Em um comunicado à imprensa, seu escritório disse: “Os chatbots orientados pela IA geralmente vão além de simplesmente oferecer conselhos genéricos e demonstraram se passar por profissionais de saúde mental licenciados, fabricar qualificações e reivindicar serviços privados de aconselhamento confiável”.
Além disso, disse o escritório, as conversas às vezes muito pessoais que as crianças têm com os chatbots “são registradas, rastreadas e exploradas para publicidade direcionada e desenvolvimento algorítmico, levantando sérias preocupações sobre violações de privacidade, abuso de dados e publicidade falsa”.
O procurador -geral agora emitiu demandas de investigação civil para ambas as empresas para determinar se violaram as leis de proteção ao consumidor do Texas, incluindo reivindicações fraudulentas, deturpações de privacidade e ocultação do uso de dados materiais.
“Na era digital de hoje, devemos continuar lutando para proteger as crianças do Texas de tecnologia enganosa e exploradora”, disse Paxton. “Ao se posicionar como fontes de apoio emocional, as plataformas de IA podem enganar usuários vulneráveis, especialmente crianças, a acreditar que estão recebendo cuidados de saúde mental legítimos. Na realidade, eles geralmente estão sendo alimentados com respostas genéricas, projetadas para se alinhar com dados pessoais colhidos e disfarçados como conselhos terapêuticos”.
Nem o meta nem o personagem.ai oferece chatbots que afirmam ser terapeutas. Um dos muitos personagens criados pelos usuários no personagem.ai foi nomeado psicólogo, mas a empresa disse que deixa claro que todos os bots em seu site são “fictícios” e “destinados ao entretenimento”. Um porta -voz explicou: “Temos isenções de responsabilidade proeminentes em todos os bate -papos para lembrar aos usuários que um personagem não é uma pessoa real e que tudo o que um personagem diz deve ser tratado como ficção”.
A Meta também disse que consistentemente permite que os usuários saibam que as respostas do chatbot são geradas por uma máquina, não uma humana, enquanto sua IA geralmente direciona “os usuários a procurar profissionais médicos ou de segurança qualificados, quando apropriado”.
A notícia ocorre depois que o senador republicano Josh Hawley disse que estava lançando uma investigação sobre a Meta quando foi descoberto recentemente em uma Reuters investigação que a empresa permitiu explicitamente que seus chatbots “envolvam uma criança em conversas românticas ou sensuais”. Hawley disse que isso era “motivos para uma investigação imediata do Congresso”, escrevendo mais tarde em X, “existe alguma coisa – qualquer coisa – a Big Tech não fará por um dinheiro rápido?”
Em resposta, a Meta afirmou que a Reuters de documentos internos descobertos e as declarações dentro de “foram” errôneas e inconsistentes com nossas políticas e foram removidas “.
O senador democrata Ron Wyden disse que o documento em questão era “profundamente perturbador e errado”, acrescentando que Seção 230uma lei que protege as empresas de tecnologia da responsabilidade, não deveria proteger as ferramentas generativas da IA das empresas. “Meta e Zuckerberg devem ser totalmente responsáveis por qualquer dano que esses robôs causassem”, disse ele em comunicado.
O republicano Marsha Blackburn acredita que os relatórios recentes ilustram que as crianças precisam ser melhor protegidas durante esse aumento no uso de chatbot. Blackburn foi um dos senadores que introduziram o Lei de Segurança Online infantilKosa, que passou no ano passado no Senado, mas falhou na Câmara dos Deputados dos EUA.
Foto: Gaga Skidmore/Flickr
Apoie nossa missão de manter o conteúdo aberto e gratuito, envolvendo -se com a comunidade TheCube. Junte -se à rede de confiança dos ex -alunos do TheCubeonde os líderes de tecnologia se conectam, compartilham inteligência e criam oportunidades.
- 15m+ espectadores de vídeosalimentando conversas em toda a IA, nuvem, segurança cibernética e muito mais
- 11.4K+ ex -alunos do TheCube -Conecte-se a mais de 11.400 líderes de tecnologia e empresários que moldam o futuro por meio de uma rede única de confiança.
Sobre a mídia de siliconangle
Fundada pelos visionários de tecnologia John Furrier e Dave Vellante, a Siliconangle Media construiu um ecossistema dinâmico de marcas de mídia digital líder do setor que atingem mais de 15 milhões de profissionais de tecnologia de elite. Nossa nova nuvem proprietária de vídeo da IA está abrindo a interação do público, aproveitando a rede neural thecubaii.com para ajudar as empresas de tecnologia a tomar decisões orientadas a dados e permanecer na vanguarda das conversas do setor.
