Casa Branca propõe “Declaração de Direitos” da tecnologia para limitar os danos à IA

Os reguladores europeus já tomaram medidas para controlar as aplicações de IA mais arriscadas que podem ameaçar a segurança ou os direitos das pessoas.

Os principais consultores científicos do presidente Joe Biden estão pedindo uma nova “declaração de direitos” para se proteger contra uma nova e poderosa tecnologia de inteligência artificial.

O Escritório de Política Científica e Tecnológica da Casa Branca lançou na sexta-feira uma missão de apuração de fatos para examinar o reconhecimento facial e outras ferramentas biométricas usadas para identificar pessoas ou avaliar seus estados emocionais ou mentais e caráter.

O principal conselheiro científico de Biden, Eric Lander, e o vice-diretor de ciência e sociedade, Alondra Nelson, também publicaram um artigo de opinião na revista Wired detalhando a necessidade de desenvolver novas salvaguardas contra usos defeituosos e prejudiciais de IA que podem discriminar injustamente as pessoas ou violar sua privacidade.

“Enumerar os direitos é apenas o primeiro passo”, escreveram eles. “O que podemos fazer para protegê-los? As possibilidades incluem a recusa do governo federal de comprar software ou produtos de tecnologia que não respeitem esses direitos, exigindo que os contratantes federais usem tecnologias que aderem a esta ‘declaração de direitos’ ou a adoção de novas leis e regulamentos para preencher lacunas. ”

Esta não é a primeira vez que o governo Biden expressa preocupações sobre os usos prejudiciais da IA, mas é um de seus passos mais claros para fazer algo a respeito.

Os reguladores europeus já tomaram medidas para controlar as aplicações de IA mais arriscadas que podem ameaçar a segurança ou os direitos das pessoas. Os legisladores do Parlamento Europeu tomaram uma atitude esta semana a favor do banimento da vigilância biométrica em massa, embora nenhum dos países do bloco esteja vinculado à votação de terça-feira, que pediu novas regras para impedir a aplicação da lei de digitalizar características faciais em espaços públicos.

Os líderes políticos nas democracias ocidentais disseram que querem equilibrar o desejo de explorar o potencial econômico e social da IA ​​ao mesmo tempo em que abordam as crescentes preocupações sobre a confiabilidade das ferramentas que podem rastrear e traçar o perfil de indivíduos e fazer recomendações sobre quem tem acesso a empregos, empréstimos e oportunidades educacionais .

Um documento federal arquivado na sexta-feira busca comentários públicos de desenvolvedores de IA, especialistas e qualquer pessoa que tenha sido afetada pela coleta de dados biométricos.

A associação comercial de software BSA, apoiada por empresas como Microsoft, IBM, Oracle e Salesforce, disse agradecer a atenção da Casa Branca em combater o viés da IA, mas está pressionando por uma abordagem que exigiria que as empresas fizessem sua própria avaliação dos riscos de seus aplicativos de IA e, em seguida, mostram como eles irão mitigar esses riscos.

“Isso permite o bem que todos veem na IA, mas minimiza o risco de levar à discriminação e perpetuar o preconceito”, disse Aaron Cooper, vice-presidente de política global do grupo.

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here