A nova ferramenta de IA da Meals and Drug Administration – apresentada pelo Secretário de Saúde e Serviços Humanos Robert F. Kennedy Jr. como uma solução revolucionária para encurtar as aprovações de drogas – está inicialmente causando mais alucinações do que soluções.
Conhecida como ELSA, o AI Chatbot foi introduzido para ajudar os funcionários da FDA a tarefas diárias como anotações e e -mails, ao mesmo tempo em que apoiava os tempos de resposta mais rápidos de aprovação de medicamentos e dispositivos, classificando -se através de dados importantes de aplicativos. Mas, de acordo com os insiders da FDA que falou com a CNN Sob anonimato, o chatbot está repleto de alucinações, muitas vezes fabricando estudos médicos ou interpretando mal dados importantes. A ferramenta foi marginalizada por funcionários, com fontes dizendo que não pode ser usada em revisões e não tem acesso a documentos internos cruciais que os funcionários foram prometidos.
Os dados da saúde violarem os impactos em mais de cinco milhões de americanos
“Isso alucina com confiança”, disse um funcionário da FDA à CNN. Segundo as fontes, a ferramenta geralmente fornece respostas incorretas nas áreas de pesquisa do FDA, rótulos de medicamentos e não pode se conectar a citações de terceiros de revistas médicas externas.
Apesar das alegações iniciais de que a ferramenta já estava integrada ao protocolo de revisão clínica, o comissário da FDA, Marty Makary, disse à CNN que a ferramenta estava sendo usada apenas para “tarefas organizacionais” e não period exigido pelos funcionários. O chefe da IA da FDA admitiu a publicação de que a ferramenta estava em risco de alucinar, carregando o mesmo risco que outros LLMs. Ambos disseram que não ficaram surpresos por ter cometido erros e disseram que foram necessários mais testes e treinamento.
Velocidade de luz mashable
Mas nem todos os LLMs têm o trabalho de aprovar o remédio para salvar vidas.
A agência anunciou a nova ferramenta Agentic em junho, com Vinay Prasad, diretor do Centro de Avaliação e Pesquisa de Biológicos da FDA (CBER) e escrita Makary de que a inovação da IA period uma prioridade líder para a agência em um acompanhamento Jornal da Associação Médica Americana (JAMA) Artigo. A ferramenta, que examina as aplicações de dispositivos e medicamentos, foi lançada como uma solução para períodos de aprovação de medicamentos longos e frequentemente criticados, após o lançamento do FDA de um Piloto de revisão científica da AI-assistida.
O governo Trump reuniu agências governamentais por trás de uma agenda acelerada de “America-primeiro”, incluindo orientações federais recentes para estabelecer centros de excelência de IA apoiados por FDA para testar e implantar novas ferramentas de IA, anunciadas no recém-revelado plano de ação da IA. Muitos estão preocupados com o fato de os esforços agressivos de empurrão e desregulamentação evitam a supervisão necessária da nova tecnologia.
“Muitos dos setores mais críticos da América, como a saúde, são especialmente lentos em adotar devido a uma variedade de fatores, incluindo desconfiança ou falta de entendimento da tecnologia, um cenário regulatório complexo e a falta de claros padrões de governança e mitigação de riscos”, diz o plano de ação. “Um esforço federal coordenado seria benéfico para estabelecer uma cultura dinâmica de ‘Tryst-primeiro’ para a IA em toda a indústria americana”.
