![\"\"](\"\/wp-content\/uploads\/2024\/02\/i858659.jpeg\")
<\/p>\nIntelig\u00eancia artificial est\u00e1 mais para ferramenta de criminosos que redentora das ci\u00eancias. <\/p>\n
<\/p>\n
Na \u00faltima semana, um acontecimento inusitado balan\u00e7ou a ci\u00eancia \u2014 uma revista cient\u00edfica publicou uma pesquisa revisada por pares contendo diversas imagens geradas por intelig\u00eancia artificial (IA), com pouco crit\u00e9rio pelo realismo necess\u00e1rio. As bizarras imagens geradas incluem um rato com um p\u00eanis anormalmente grande, o que chamou a aten\u00e7\u00e3o nas redes sociais.<\/p>\n
O peri\u00f3dico em quest\u00e3o foi a Frontiers, em sua divis\u00e3o Cell Development and Biology, e o estudo \u00e9 bastante espec\u00edfico e de nome complicado: \u201cFun\u00e7\u00f5es celulares das c\u00e9lulas-tronco espermatogoniais em rela\u00e7\u00e3o \u00e0 via de sinaliza\u00e7\u00e3o JAK\/STAT\u201d , em tradu\u00e7\u00e3o livre. Poucas pessoas fora do nicho cient\u00edfico se interessariam pelo tema, que chamou a aten\u00e7\u00e3o devido \u00e0 natureza das imagens.<\/p>\n
Os respons\u00e1veis pelo estudo s\u00e3o cientistas da Universidade Jiaotong e do Hospital Hong Hui, ambos na China. Ap\u00f3s a repercuss\u00e3o do artigo e alvoro\u00e7o da comunidade cient\u00edfica, que considerou o uso indiscriminado de ferramentas de IA como nocivo ao mundo acad\u00eamico, os editores da revista Frontiers retiraram a publica\u00e7\u00e3o na \u00faltima quinta-feira (15), ficando apenas dois dias no ar.<\/p>\n
O artigo em si trata de temas importantes, vale dizer \u2014 os cientistas estudaram as espermatog\u00f4nias, c\u00e9lulas que se tornar\u00e3o espermatozoides, mais especificamente as c\u00e9lulas-tronco relacionadas a elas e os caminhos que as prote\u00ednas usam para isso. Isso \u00e9 importante para a medicina regenerativa, regula\u00e7\u00e3o do sistema imune e engenharia celular, tendo rela\u00e7\u00e3o com terapias adjuvantes, ou seja, que ajudam pacientes a ter uma sobrevida melhor ap\u00f3s tratamentos de sa\u00fade.<\/p>\n
IA generativa e os erros do estudo<\/strong><\/p>\n A imagem de maior destaque no incidente \u00e9 a do rato em corte vertical, que, al\u00e9m dos genitais desproporcionais, t\u00eam a disseca\u00e7\u00e3o de seus outros \u00f3rg\u00e3os fora de propor\u00e7\u00e3o. Fora as atrocidades anat\u00f4micas que a IA cometeu, com tecidos e c\u00e9lulas sem precis\u00e3o biol\u00f3gica, tamb\u00e9m h\u00e1 textos que lembram vagamente termos cient\u00edficos, mas n\u00e3o querem dizer nada, como \u201ctesttomcels\u201d, \u201ciollote sserotgomar cell\u201d, \u201cretat\u201d, \u201cdissilced\u201d e \u201cdck\u201d.<\/p>\n Al\u00e9m do exagero na ilustra\u00e7\u00e3o do roedor, representa\u00e7\u00f5es de recortes de c\u00e9lulas presentes no restante do artigo s\u00e3o igualmente desprovidas de sentido, cheias de textos truncados gerados automaticamente e com aberra\u00e7\u00f5es t\u00edpicas do exagero cometido pelas IAs. Isso inclui excesso de elementos e um aspecto visual que lembra mais uma criatura alien\u00edgena (ou uma pizza, nas palavras da revista Vice) do que algo animal.<\/p>\n Por falar na Vice, sua divis\u00e3o Motherboard entrou em contato com os respons\u00e1veis pela revis\u00e3o do artigo para descobrir o que teria acontecido. Jingbo Dai, da Universidade Northwestern, nos EUA, revisou o estudo e afirmou que checou apenas os dados cient\u00edficos brutos, n\u00e3o tendo responsabilidade pelas imagens \u2014 cientificamente, o conte\u00fado estava correto.<\/p>\n Segundo o cientista, a editora respons\u00e1vel pela Frontiers \u00e9 que deve explica\u00e7\u00f5es por outros detalhes, como as imagens. Um segundo revisor, baseado na \u00cdndia, n\u00e3o quis comentar o caso. Os respons\u00e1veis pelo estudo creditaram a ferramenta Midjourney em seu trabalho, e a Frontiers afirmou que o uso de IA \u00e9 permitido, contanto que a precis\u00e3o factual seja garantida pelos autores.<\/p>\n Intelig\u00eancia artificial na ci\u00eancia<\/strong><\/p>\n A adapta\u00e7\u00e3o da ci\u00eancia ao uso de IA est\u00e1 passando por diversos percal\u00e7os \u2014 ano passado, a revista Nature baniu o uso de IAs generativas como um todo, por exemplo. Mas isso n\u00e3o quer dizer que intelig\u00eancias artificiais, no geral, sejam puramente vil\u00e3s. A tecnologia ajuda muito no processamento de dados, buscando informa\u00e7\u00f5es com maior rapidez e navegando por amontoados de informa\u00e7\u00f5es para detectar padr\u00f5es muito melhor do que humanos conseguiriam, por exemplo.<\/p>\n A grande quest\u00e3o \u00e9 o uso de IA generativa, que, como o nome sugere, “cria” imagens, textos e conte\u00fados no geral. Isso n\u00e3o \u00e9 tirado do nada \u2014 a IA s\u00f3 consegue elaborar coisas a partir do que humanos criaram, o que pode, por exemplo, acabar refor\u00e7ando preconceitos estruturais, como mostrar grupos \u00e9tnicos como “pobres” de acordo com nossos vieses.<\/p>\n Chatbots como o ChatGPT e geradores de imagem como o Midjourney podem “alucinar” muito, tornando seu uso perigoso em ve\u00edculos oficiais, como os cient\u00edficos (Imagem: Matheus Bertelli\/Pexels)<\/p>\n Em algumas situa\u00e7\u00f5es, a IA pode acabar simplesmente gerando resultados enganosos, como quando, no estudo aqui descrito, exagerou nas propor\u00e7\u00f5es anat\u00f4micas e incluiu figuras que parecem c\u00e9lulas e tecidos, mas s\u00e3o apenas recria\u00e7\u00f5es de ilustra\u00e7\u00f5es humanas sem precis\u00e3o ou contexto suficiente. Isso para n\u00e3o citar as palavras, a exemplo de “immouminomuduodiulatiuciaton”, que deve ter surgido de “immunomodulation”, ou imunomodula\u00e7\u00e3o, em portugu\u00eas. H\u00e1 um nome para isso, ali\u00e1s \u2014 chamamos o fato de “alucina\u00e7\u00e3o”, que ocorre quando a IA n\u00e3o encontra a resposta necess\u00e1ria e cria algo fantasioso em cima do que consegue juntar de informa\u00e7\u00e3o.<\/p>\n Isso s\u00f3 prova que, apesar dos avan\u00e7os, o uso de intelig\u00eancia artificial, especialmente a generativa, precisa de cuidados, ainda mais quando falamos da ci\u00eancia, que impacta a vida e sa\u00fade de seres humanos. A Nature citou preocupa\u00e7\u00f5es com a integridade das informa\u00e7\u00f5es ao banir as IAs generativas em suas publica\u00e7\u00f5es, e \u00e9 poss\u00edvel que levemos alguns anos para que isso seja atingido.<\/p>\n Leia aqui<\/a><\/p>\n Fonte: Frontiers, Nature com informa\u00e7\u00f5es da Vice<\/p>\n![\"\"](\"\/wp-content\/uploads\/2024\/02\/celula_ia.png\")
<\/p>\n
IAs alucinadas<\/p>\n