A IA representa riscos, mas a Casa Branca diz que os reguladores não devem “desnecessariamente dificultar” a inovação |

cupom com desconto - o melhor site de cupom de desconto cupomcomdesconto.com.br


A IA representa riscos, mas a Casa Branca diz que os reguladores não devem "desnecessariamente dificultar" a inovação | 1

O presidente Donald Trump fala enquanto visita uma instalação de fabricação de computadores que produz computadores Apple em Austin, Texas, em 20 de novembro de 2019. | Mandel Ngan / Getty Images

Até agora, o desenvolvimento da inteligência artificial ultrapassou a regulamentação. Agora, a regulamentação precisa ser alcançada.

Open Sourced logo

A inteligência artificial está aqui e está afetando nossas vidas de maneiras reais – seja o alto-falante inteligente Alexa em nossos criado-mudo, chatbots on-line de atendimento ao cliente ou respostas inteligentes rascunhos do Google para nossos e-mails.

Mas até agora, o desenvolvimento da tecnologia ultrapassou a regulamentação. Agora, as agências governamentais estão cada vez mais encontrando ferramentas baseadas em IA e precisam descobrir como avaliá-las. Veja a Food and Drug Administration, que destaca novos produtos médicos: ele precisa revisar e aprovar novos produtos de saúde que possuem recursos de IA – como esse que promete detectar problemas oculares relacionados ao diabetes – antes de nos serem vendidos. Ou considere a Comissão de Igualdade de Oportunidades de Emprego, que investiga a discriminação no emprego. Hoje, a agência também deve tomar decisões sobre algoritmos de contratação baseados em IA, como aqueles que examinam os currículos dos candidatos a emprego e decidir se você merece ou não uma entrevista.

Na quarta-feira, na CES, a importante feira de tecnologia de Las Vegas, os funcionários da Casa Branca anunciaram formalmente como o Escritório de Ciência e Tecnologia quer que as agências federais se aproximem da regulamentação de novas ferramentas baseadas em inteligência artificial e das indústrias que desenvolvem a tecnologia.

A orientação de AI proposta da Casa Branca discute algumas das maiores preocupações que os tecnólogos, especialistas em ética da IA ​​e até alguns funcionários do governo têm sobre a tecnologia, mas as diretrizes estão mais centradas no incentivo à inovação em inteligência artificial e na garantia de que as regulamentações não sejam “desnecessárias” no caminho.

Isso reflete um problema contínuo para a IA, que já ocorreu em outros setores da tecnologia, onde uma corrida para inovar sem muita supervisão só voltou a nos assombrar.

Embora incentivar a inovação em IA seja certamente uma consideração, os críticos da tecnologia disseram que os reguladores devem examinar mais de perto a inteligência artificial, à medida que ela continua sendo lançada no mundo real. Eles argumentam que a inteligência artificial pode replicar e até amplificar vieses humanos. Essas ferramentas geralmente funcionam em caixas-pretas, o que significa que elas são proprietárias e operadas pelas empresas que as vendem, o que dificulta para nós saber quando ou como elas podem estar prejudicando pessoas reais (ou se elas funcionam como pretendido). E novas ferramentas baseadas em IA também podem levantar preocupações sobre privacidade e vigilância.

Leia Também  World United News: 'Não deixaremos Ankara dividir qualquer território sírio'

Por enquanto, essas novas diretrizes são exatamente isso – diretrizes – o que significa que o memorando de hoje não terá um efeito imediato na tecnologia de inteligência artificial que você pode encontrar em sua vida diária. Mas o memorando mostra como o governo está pensando sobre a IA e seu potencial impacto sobre os americanos. “As pessoas devem se importar que a Casa Branca esteja tentando criar uma estrutura para avaliar e justificar a implantação de ferramentas de IA, porque o que estamos descobrindo à medida que essas ferramentas se desenvolvem e emergem é que existem alguns aplicativos que têm consequências mais profundas que outros” disse Nicol Turner-Lee, pesquisador da Brookings Institution que pesquisa tecnologia e patrimônio.

O governo Trump quer um esforço nacional de IA

Trump e seu governo querem que os EUA dominem a indústria de IA – e eles definitivamente querem que os EUA sejam melhores em IA do que a China. No início do ano passado, o presidente Donald Trump assinou uma ordem executiva estabelecendo a “American A.I. Initiative “, que visa alavancar a pesquisa em IA e ajudar a criar uma força de trabalho nos EUA com competência em IA, entre outras metas (embora ele não tenha dado ao esforço nenhum novo financiamento).

Esboçando 10 princípios principais, o memorando de hoje para departamentos e agências federais ecoa os objetivos dessa ordem executiva. Exorta os reguladores a estarem atentos à inovação e a “considerar maneiras de reduzir barreiras ao desenvolvimento e adoção da IA” ao avaliar como as leis existentes e as possíveis novas regras se aplicam à tecnologia emergente.

“As agências federais devem evitar ações regulatórias ou não reguladoras que dificultem desnecessariamente a inovação e o crescimento da IA”, diz o memorando. “As agências devem evitar uma abordagem preventiva que mantenha os sistemas de IA em um nível tão alto que a sociedade não possa usufruir de seus benefícios.” Ao mesmo tempo, a orientação também exige que os reguladores sejam conscientes de valores como transparência, gerenciamento de riscos, justiça e não discriminação. .

Estes são todos os pontos justos. Ao incentivar esses departamentos e agências federais a agir, o governo Trump também espera evitar um futuro em que as empresas americanas de IA possam enfrentar uma colcha de retalhos de regulamentação local e estadual, ou possivelmente exceder a regulamentação federal, que possa impedir a expansão da tecnologia.

cupom com desconto - o melhor site de cupom de desconto cupomcomdesconto.com.br

Os especialistas em IA disseram à Recode que as diretrizes da IA ​​são um ponto de partida. “Vai levar tempo para avaliar a eficácia desses princípios na prática, e estaremos acompanhando de perto”, disse Rashida Richardson, diretora de pesquisa de políticas do AI Now Institute. “O estabelecimento de limites para o governo federal e o setor privado em torno da tecnologia de IA oferecerá uma visão maior para aqueles que trabalham no espaço de prestação de contas”.

Leia Também  Edo: CSO identifica Etsako West como flashpoint

Aaron Rieke, diretor da Upturn, organização sem fins lucrativos de direitos de tecnologia, disse em um e-mail à Recode que, por enquanto, ele não acha que o memorando terá muita influência: “Não acho que esses princípios tenham muito impacto sobre a pessoa média, especialmente a curto prazo. Eu acho que os reguladores serão capazes de justificar suas decisões, boas ou más, sem muito esforço. ”

É importante ressaltar que o memorando não se aplica à inteligência artificial que o próprio governo dos EUA usa (dos quais há muito). Por exemplo, uma pesquisa em um banco de dados de contratos federais dos EUA mostra que os Centros de Controle de Doenças adquiriram produtos de reconhecimento facial (uma tecnologia baseada em IA), enquanto o Departamento de Comércio parece estar usando a IA para melhorar seu sistema de busca de patentes.

Um dos motivos pelos quais a IA precisa de regulamentação: ela vem com riscos

Os sistemas de IA não são inerentemente objetivos. Os seres humanos constroem essas ferramentas, e a IA geralmente é desenvolvida usando dados defeituosos ou tendenciosos, o que significa que a tecnologia pode herdar ou até ampliar vieses humanos como sexismo e racismo. Por exemplo, quando, em 2017, os cientistas ensinaram um programa de computador para aprender o idioma inglês através da mineração na Internet, acabou prejudicando mulheres e pessoas negras.

Os críticos dizem que risco significa que o governo deve regulamentar agressivamente e até proibir certas aplicações de inteligência artificial. E algumas ferramentas de IA, como o reconhecimento facial, que dependem da coleta de informações confidenciais, também despertaram preocupações sobre como essa tecnologia poderia potencialmente criar pesadelos de privacidade e vigilância.

Isso tudo importa porque a IA já tem o potencial de ter um impacto real em sua vida, mesmo que você ainda não tenha percebido. Alguns proprietários de imóveis flutuaram exigindo que os inquilinos usassem o reconhecimento facial para entrar em suas casas, embora a tecnologia seja menos precisa em pessoas de cor e mulheres (e especialmente mulheres com pele escura), entre outros grupos. Outro exemplo: embora nunca tenha sido usado, um algoritmo de triagem de currículo produzido pela Amazon discriminou inadvertidamente mulheres candidatas porque foi treinado em currículos que a empresa havia coletado anteriormente, a maioria proveniente de homens. Imagine perder o emprego dos seus sonhos por causa de um algoritmo tendencioso.

Leia Também  Seja criador de empregos, o coordenador da Oyo NYSC diz aos membros que saem do corpo

“Os sistemas de IA têm um potencial de discriminar o público americano com base em raça, sexo, gênero – todo tipo de critério imaginável”, disse à Recode Albert Fox Cahn, advogado que lidera o Projeto de Supervisão de Tecnologia de Vigilância da Universidade de Nova York. “Isso pode afetar tudo, desde a obtenção de uma oferta de emprego, a aprovação de um apartamento ou uma hipoteca, a boa taxa de juros ou a taxa de juros ruim. Isso pode afetar as admissões na faculdade e a colocação na escola. ”

Isso o deixou decepcionado com as novas diretrizes propostas. “Em vez de fornecer uma estrutura para os reguladores realmente abordarem a discriminação de frente, em vez disso, a Casa Branca está pedindo uma abordagem imediata que permita à IA simplesmente atingir comunidades historicamente marginalizadas sem as intervenções de que precisamos”, disse Cahn. Ele disse que as referências do memorando a valores de não discriminação e transparência não têm muita força por trás deles.

“Quando você pensa em onde a maioria dos consumidores é mais vulnerável à IA, é nessas áreas como moradia, assistência médica e emprego – as áreas que compõem a primeira página do jornal”, disse Turner-Lee. Ela disse que não está claro o significado do memorando para agências como o Departamento de Trabalho e Departamento de Proteção Financeira do Consumidor, em comparação com, por exemplo, o Departamento de Agricultura.

Ela acrescenta que também não está claro se as agências estão realmente preparadas para identificar os riscos que a tecnologia da IA ​​representa, ou se estão preparados para garantir que seus regulamentos acompanhem o ritmo da inovação. “Há muito mais detalhes nos detalhes que eu gostaria de ver, mas acho que eles estão apenas tentando nos fornecer uma estrutura geral para algum tipo de implantação ética e justa”.

Agora a Casa Branca quer feedback, incluindo o seu

O rascunho da orientação não está definido. Nos próximos meses, ele estará sujeito a comentários do público, incluindo o seu (atualizaremos este artigo com como fazer isso assim que as informações estiverem disponíveis). Uma vez que a orientação seja formalmente aprovada, a Casa Branca espera que as agências relatem como planejam atender às novas expectativas da IA.


Open Sourced é possível graças à rede Omidyar. Todo o conteúdo do Open Sourced é editorialmente independente e produzido por nossos jornalistas.

cupom com desconto - o melhor site de cupom de desconto cupomcomdesconto.com.br