Dez Princípios de Privacidade de IA: Microsoft Acorda Novas Regras para Escolas

A Microsoft fechou um acordo significativo com o segundo maior sindicato de professores dos Estados Unidos, a American Federation of Teachers (AFT), e sua afiliada em Nova York, a United Federation of Teachers (UFT). O compromisso estabelece a adoção de dez princípios de segurança e privacidade para o uso de inteligência artificial (IA) em escolas, em um movimento que ocorre apenas uma semana após dois dos maiores sistemas escolares do país, Nova York e Los Angeles, anunciarem uma proibição temporária do uso de ferramentas de IA por estudantes. Conforme reportado pelo The Verge AI, o acordo visa estabelecer diretrizes claras em um cenário de crescente preocupação.

A iniciativa da Microsoft surge em meio a um debate acalorado sobre a inserção da IA no ambiente educacional. O pacto com a AFT e a UFT pode ser contratualmente aplicado por distritos escolares que o adotarem, conferindo força legal às salvaguardas propostas. Segundo o The Verge AI, entre as regras estão a proibição de treinar modelos de IA com dados de alunos ou educadores, a limitação da coleta de informações e a exigência de que as famílias sejam informadas, em linguagem simples, sobre como as ferramentas de IA funcionam. Além disso, o acordo veda a existência de 'companheiros de IA' e demanda revisão humana para decisões consideradas de 'alto risco'.

Os Dez Pilares da Nova Política da Microsoft

Os dez princípios acordados representam um esforço da Microsoft para abordar as preocupações crescentes de pais e educadores sobre a privacidade e a segurança dos dados no uso de IA. A lista de compromissos inclui:

• Não utilizar dados de estudantes ou educadores para treinar modelos de IA: Esta é uma das principais preocupações, garantindo que informações sensíveis não sejam usadas para aprimorar algoritmos sem consentimento ou conhecimento.
• Limitar a coleta de dados: A Microsoft se compromete a coletar apenas a quantidade mínima de dados necessária para o funcionamento de suas ferramentas, reduzindo riscos de exposição.
• Transparência para as famílias: As famílias terão acesso a informações claras e compreensíveis sobre o funcionamento das ferramentas de IA utilizadas nas escolas, promovendo a confiança e o entendimento.
• Proibição de 'companheiros de IA': A empresa não permitirá o desenvolvimento ou uso de assistentes de IA que possam interagir de forma autônoma com os alunos, evitando interações potencialmente prejudiciais ou invasivas.
• Revisão humana para decisões de alto risco: Qualquer decisão significativa tomada por um sistema de IA que possa impactar estudantes ou educadores deverá passar por uma análise e aprovação humana, mitigando vieses e erros algorítmicos.

Esses termos, que poderão ser adicionados a novos ou existentes contratos sem a necessidade de renegociar acordos inteiros a partir de novembro, indicam a flexibilidade e a seriedade da Microsoft em atender às demandas do setor educacional. O Engadget destacou que, na ausência de proteções federais para a IA, os sindicatos estão assumindo um papel proativo na definição de normas.

Contexto: Proibições Recentes e a Ação Sindical

A decisão da Microsoft ocorre em um momento crucial. Distritos escolares de Nova York e Los Angeles, que representam milhões de alunos, implementaram recentemente proibições de um ano sobre o uso de ferramentas de IA voltadas para estudantes. Essas proibições foram estabelecidas para que os distritos tivessem tempo de avaliar o uso adequado e as salvaguardas necessárias para a tecnologia. A resistência de pais e alguns educadores ao uso generalizado de IA e telas nas escolas provavelmente sinalizou à Microsoft que mais decisões semelhantes poderiam estar a caminho.

O Distrito Escolar Unificado de Los Angeles, um dos maiores do país, tem examinado de perto o futuro das plataformas de IA na educação. Um vídeo do canal CBS LA detalha essa discussão, ilustrando a seriedade com que as instituições estão abordando a questão da inteligência artificial em sala de aula.

A American Federation of Teachers, por sua vez, tem sido uma voz crítica em relação à tecnologia nas escolas, mas também se mostrou aberta a colaborar com empresas de tecnologia para preparar o terreno para a onda atual da IA. Em um discurso proferido em maio, a presidente da AFT, Randi Weingarten, defendeu a proibição de telas antes do terceiro ano do ensino fundamental, bem como o banimento de IA diretamente acessível a alunos antes do ensino médio. No entanto, o grupo também anunciou um centro de treinamento em IA para educadores, no valor de US$ 23 milhões, com financiamento da Anthropic, Microsoft e OpenAI, demonstrando uma abordagem multifacetada ao desafio.

A Necessidade de Ação e a Visão da Liderança Sindical

Em um comunicado sobre o novo acordo de privacidade com a Microsoft, Randi Weingarten descreveu os termos como 'inquebráveis' e necessários. Segundo a presidente da AFT, isso se justifica 'porque ninguém mais, incluindo o governo federal, se prontificou a fazer o trabalho real'. Ela acrescentou, conforme reportado pelo The Verge AI, que 'podemos ficar cada vez mais zangados, ou podemos agir decisivamente; qualquer coisa menos do que disposições legalmente executáveis é simplesmente uma lista de desejos'. A fala de Weingarten ressalta a urgência e a importância de acordos concretos e aplicáveis para proteger os interesses dos estudantes e educadores na era da inteligência artificial.

O compromisso da Microsoft, embora focado nos Estados Unidos, estabelece um precedente importante para a discussão global sobre IA na educação. Ao tomar medidas proativas para garantir a privacidade e a segurança dos dados, a empresa busca construir a confiança necessária para a adoção responsável da inteligência artificial em ambientes de aprendizagem, um passo crucial para moldar o futuro da tecnologia educacional.