Meta atende exigências da ANPD / Definição para a IA de código aberto / Vulnerabilidade do Slack AI / Procreate promete não introduzir IA generativa
IA Stack desta semana:
🔷 Meta atende exigências da ANPD e poderá retomar com restrições o treinamento de IA
🔷 Definição para a IA de código aberto
🔷 Vulnerabilidade do Slack AI
🔷 Aplicativo de design Procreate promete não introduzir IA generativa
Tempo de leitura: 4 minutos
Meta atende exigências da ANPD e poderá retomar com restrições o treinamento de IA
Após a medida preventiva suspendendo o uso de dados pessoais para treinamento da IA generativa no início de julho, por considerar que poderia acarretar danos graves e irreparáveis aos titulares, a Meta conseguiu retomar seu treinamento de IA no Brasil, porém com restrições. O plano de conformidade aprovado pela Autoridade Nacional determina que a empresa não realizará tratamento de dados de crianças e adolescentes e implementará medidas que ampliam a transparência e simplificam a opção de negar o uso de dados pessoais. Como forma de ampliar a transparência, os usuários receberão uma notificação por e-mail e no próprio aplicativo com informações claras e acessíveis sobre o tratamento de dados. Além disso, a Meta atualizará documentos de comunicação com o público em geral, como Aviso de Privacidade e banners em sua página de privacidade. Mesmo após o início da utilização dos dados pessoais, usuários e não-usuários poderão exercer esse direito. O Conselho Diretor determinou, ainda, que acompanhe rigorosamente o cumprimento do Plano e a implementação do sistema de IA.
Definição para a IA de código aberto
Após um longo tempo de discussão entre pesquisadores sobre o que caracteriza uma IA de código aberto, enfim surgiu uma resposta. A falta de padrão de código aberto representava um problema. A definição nova espera ajudar os legisladores a desenvolver regulamentos para proteger os consumidores dos riscos associados à IA. Um sistema de IA de código aberto pode ser usado para qualquer finalidade sem obter permissão, e os pesquisadores devem ser capazes de inspecionar seus componentes e estudar como o sistema funciona. Também deve ser possível modificar o modelo para qualquer propósito e compartilhá-lo com outras pessoas para uso, com qualquer objetivo.
Vulnerabilidade do Slack AI
O aplicativo de mensagens Slack sofreu um ataque em seu serviço de IA, que fornece ferramentas generativas para tarefas. Porém, uma vulnerabilidade de injeção de prompt no Slack AI possibilitou buscar dados de canais privados. Conforme o fornecedor de segurança, o Slack considera esse comportamento intencional, mas que pode ser abusado e resultar em um caso de phishing.
Aplicativo de design Procreate promete não introduzir IA generativa
O aplicativo de ilustração para iPad, Procreate, se posicionou frente à criação de arte com inteligência artificial. Em um vídeo postado no X, o CEO James Cuda disse que não gosta do que está acontecendo com a indústria ou com os artistas, mas acredita que estão no caminho certo para apoiar a criatividade humana. Em seu site, a Procreate afirma que "a IA não é o nosso futuro" e também "A criatividade é feita, não gerada".
Obrigado pela leitura, até a próxima. 👋