Revista de Engenharia Biom\u00e9dica. Setembro de 2026 15. doi: 10.1007\/s10439-026-04376-3. Online antes da publica\u00e7\u00e3o.<\/p>\n
RESUMO<\/p>\n
A discuss\u00e3o cl\u00ednica sobre a seguran\u00e7a da intelig\u00eancia artificial tem se concentrado na precis\u00e3o, no vi\u00e9s e na alucina\u00e7\u00e3o, cada um dos quais descreve um modelo falhando em sua tarefa atribu\u00edda. A inje\u00e7\u00e3o r\u00e1pida descreve a condi\u00e7\u00e3o oposta: um modelo agindo exatamente como instru\u00eddo, por uma instru\u00e7\u00e3o que o cl\u00ednico n\u00e3o escreveu e n\u00e3o pode ver. A vulnerabilidade surge de uma propriedade fundamental das arquiteturas atuais de modelos de linguagem, que recebem um fluxo indiferenciado de tokens e n\u00e3o possuem mecanismo para distinguir o conte\u00fado que possui autoridade daquele que n\u00e3o possui. A medicina est\u00e1 particularmente exposta, porque o hist\u00f3rico cl\u00ednico \u00e9 composto por material originado fora da institui\u00e7\u00e3o, incluindo correspond\u00eancia de encaminhamento, mensagens digitadas pelo paciente, relat\u00f3rios externos, documentos digitalizados e imagens adquiridas em outro lugar. Argumentamos que a inje\u00e7\u00e3o r\u00e1pida merece ser classificada como um risco \u00e0 seguran\u00e7a do paciente com um modelo de amea\u00e7a articulado, em vez de uma curiosidade t\u00e9cnica, que promptings e filtragem de entrada aprimorados n\u00e3o abordam, e que a resposta vi\u00e1vel est\u00e1 no tratamento de contexto consciente da origem, privil\u00e9gios restritos para a\u00e7\u00f5es irrevers\u00edveis e testes adversariais antes da implementa\u00e7\u00e3o.<\/p>\n
PMID: 42745101 | DOI: 10.1007\/s10439-026-04376-3<\/p>\n