Política Americana – Painel de reparações da Califórnia adverte sobre IA médica ‘preconceituosa’ e pede ação legislativa

A força-tarefa de reparações da Califórnia está recomendando, como parte de seu conjunto de propostas para reparar a escravidão e o racismo antinegro, que os legisladores estaduais abordem o que chama de inteligência artificial “preconceituosa racialmente” usada na assistência médica.

A força-tarefa, criada pela legislação estadual assinada pelo governador Gavin Newsom em 2020, aprovou formalmente no último fim de semana suas recomendações finais ao Legislativo da Califórnia, que decidirá se promulgará as medidas e as enviará à mesa do governador para serem sancionadas.

As recomendações incluem várias propostas relacionadas aos cuidados de saúde, incluindo algumas relacionadas à inteligência artificial médica (IA), que a força-tarefa descreve como “preconceituosa racialmente” e contribuindo para o suposto racismo sistêmico contra os californianos negros.

Especificamente, a força-tarefa pede que a legislatura financie universidades estaduais ou agências governamentais para estudar o “potencial de vieses prejudiciais” na IA médica.

Médico feminino tranquilizando um paciente (iStock)

COMITÊ DE REPARAÇÕES DA CALIFÓRNIA CONVOCA TREINAMENTO ‘ANTIVIÉSIO’ OBRIGATÓRIO PARA OS FORMADORES DA ESCOLA DE MEDICINA

“A força-tarefa recomenda que a legislatura forneça financiamento estadual ao Departamento de Saúde Pública da Califórnia, uma escola da Universidade da Califórnia, uma escola da Universidade Estadual da Califórnia ou outra entidade apropriada para estudar o potencial de vieses prejudiciais em algoritmos comerciais e médicos habilitados por IA dispositivos”, o comitê escreve no relatório final delineando suas propostas, acrescentando que o estudo também deve recomendar a melhor forma de regular as ferramentas médicas de IA na Califórnia.

O relatório também sugere que o estudo deve investigar “‘pesquisas baseadas em evidências sobre o uso de dispositivos e ferramentas que recomendam o ajuste do tratamento ou medicação dos pacientes com base em amplas categorias raciais na ausência de informações sobre genética ou fatores de risco socioculturais'”.

A força-tarefa cita um recente Artigo da American Civil Liberties Union (ACLU) que cita várias vezes. O artigo fornece exemplos de suposto viés racial na IA médica, como uma ferramenta destinada a decidir a melhor forma de distribuir o recurso limitado de cuidados extras para novas mães com risco de depressão pós-parto que, de acordo com a ACLU, direcionou os cuidados para longe das mães negras e favorecendo as mães brancas.

Enquanto isso, na Califórnia, o comitê de reparações recomenda que a legislatura exija que o Departamento de Saúde Pública do estado emita orientações aos hospitais e outros sistemas médicos para garantir que os dispositivos médicos habilitados para IA “não sejam usados ??para aplicações clínicas sem a aprovação ou autorização do FDA, sejam não usadas em populações de pacientes para as quais não foram destinadas e que as ferramentas liberadas não sejam usadas fora de seus casos de uso pretendidos.” Essa recomendação também está no documento da ACLU.

A força-tarefa também quer que o Departamento de Saúde Pública da Califórnia “crie e mantenha uma lista pública de produtos de software como dispositivo médico (SaMD) e forneça informações demográficas sobre os indivíduos nos quais os dispositivos foram calibrados ou treinados”.

Imagem digital do cérebro na palma da mão usando tecnologia de Inteligência artificial. (iStock)

NOVA FERRAMENTA DE IA AJUDA MÉDICOS A OTIMIZAR A DOCUMENTAÇÃO E A FOCAR NOS PACIENTES

Uma quarta proposta é alocar cargos e fundos para o Departamento de Justiça da Califórnia para buscar reclamações contra fabricantes de dispositivos médicos de IA se seus produtos tiverem um “impacto díspar” quando os fornecedores os usarem de acordo com as instruções dos fabricantes ou se os produtos “prometerem erroneamente justiça. “

Apesar das reivindicações da força-tarefa, no entanto, novas ferramentas de IA ajudaram os profissionais médicos a tratar pacientes de várias maneiras.

Uma dessas ferramentas chamada RestoreU, por exemplo, ajuda os médicos a criar planos de cuidados personalizados para pacientes com Alzheimer e outros tipos de demência. Outra ferramenta conhecida como DAX Express agiliza o processo de anotações, um benefício que supostamente ajudou os médicos a melhorar os resultados dos pacientes, trabalhar com mais eficiência e reduzir custos.

Além da IA, a Força-Tarefa de Reparações da Califórnia está promovendo várias propostas controversas relacionadas à saúde, como a obrigatoriedade de “treinamento antipreconceito” e uma avaliação baseada nesse treinamento como requisitos de pós-graduação para a faculdade de medicina.

CLIQUE AQUI PARA BAIXAR O APLICATIVO FOX NEWS

A força-tarefa também está promovendo um sistema de saúde universal de pagador único como forma de alcançar a “equidade” na saúde para os residentes negros na Califórnia.

Patrocinado por Google

Deixe uma resposta

Área Militar
Área Militarhttp://areamilitarof.com
Análises, documentários e geopolíticas destinados à educação e proliferação de informações de alta qualidade.
ARTIGOS RELACIONADOS

Descubra mais sobre Área Militar

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continue reading