Estão criando LLMs para receitar dosagem de remédios, mas elas não sabem ler notação científica. Com isso, o que era pra ser uma dose pequena acaba sendo recomendado numa dose de leão.
Reposted from
Carl T. Bergstrom
This may seem to be harmless silliness, but as Joe points out, people are developing LLMs for things like drug dosing, and the goddamn things can’t even read scientific notation.
Training data: “An otherwise healthy adult should take 10^-3 g of drug X”
LLM: Take 7g of drug X.”
Training data: “An otherwise healthy adult should take 10^-3 g of drug X”
LLM: Take 7g of drug X.”
Comments
Pelo que eu entendi o problema é que o parser que gera os vetores a partir do texto não sabe lidar, ou ignora, a formatação.
Mas não dá pra ser uma LLM generalizada, tem que ser um sistema especialista treinado pra isso.
Buscar o resultado num banco externo e usar a LLM só pra consultar e resumir os resultados.
LLM assim como outras ferramentas baseadas em IA podem ser muito úteis para quebrar o corporativismo médico e ajudar pacientes. O fato de um determinado LLM não ser treinado para ler notação científica não significa que nenhum LLM jamais será capaz disso.
Há 3 meses pedi várias vezes pra um LLM escrever um CV curto meu. Só saiu maluquice. Cada vez a maluquice mudava.
Semana passada fiz o mesmo. Saiu um CV certinho.
IAs estão mudando a sociedade. É fundamental fazermos um uso ético e responsável.
Vendo as ias para pesquisas, textos, análises...
Muito rápido o avanço.
Redes neurais são excelentes classificadores e reconhecedores de padrões. Não por outro motivo são ferramentas de diagnóstico incomparáveis.
Mas elas (ainda) não raciocinam da mesma forma como nós humanos.
Entender suas limitações é fundamental para usá-las bem.
Há várias evidências de que LLMs erram menos.
Depois da pandemia eu passei a ter muito menos confiança na atitude dos médicos brasileiros em geral.
Prefiro o LLM errando menos.
Um uso superintensivo de processamento em uma máquina de calcular para gerar um resultado "de humanas".
Usar LLM para qualquer coisa que envolva números é como achar que vai ser mais eficiente que calculadora usar um ábaco no minecraft.