Caso você queira entender mais sobre o conceito prático de LLMs como caixas pretas e por que pra fins de governança eles são tidos assim, recomendo o paper abaixo:

papers.ssrn.com/sol3/papers....

Impossível de se obter em larga escala. Por isso, pra fins de governança, essas ferramentas são consideradas (e tratadas assim academicamente) como caicmxas pretas.

Exatamente. E pra fins de governança isso é decisivo. Imagine que você, indivíduo, teve um direito limitado ou retirado por uma decisão automatizada de IA. Em tese, seria seu direito entender exatamente como essa decisão foi tomada. Quais foram os exatos racionais e etc, e isso é humanamente +

Mas de novo, isso é o que obtive na minha pesquisa em que o corte é governança. Pra esses fins, práticos, essas redes ainda são tidas como caixas pretas.

A menos que algo tenha mudado muito na governança de IA em um ano, essas ferramentas ainda são tidas pela academia como praticamente humanamente impossíveis de serem rastreadas a ponto de gerar uma segurança de usuário e de proteção de dados mínima. Tecnicamente possível mas não praticamente. +

Acadêmico que ela é irrastreavel pra estes fins. Fiz uma extensão revisão bibliográfica, em torno de 100 livros e papéis há cerca de 1 anos atrás, e era isso que apontava. É isso que fui ensinado por professores sobre isso também no tema de governança. Tem diversos papers sobre isso, inclusive. +

Na parte de governança, o respeito completo a legislação de dados e segurança de consumo europeia depende da rastreabilidade completa de decisões tomadas de forma automática, e isso hoje é impossível com LLMs. Ressalto ainda que, ao menos no que se trata de governança de IA e LLMs, é um consenso +

Agradeço a todas as indicações e eu já havia lido a thread. A parte disso, apesar de não ser engenheiro de software, minha tese é no tema de riscos e governança em IA. Acredito que o ponto chave é, como foi dito, o fato de a rastreabilidade exata não ser humanamente possível. Pelo menos não ainda +

Acontecem da sérios indícios de que isso não faz nenhum sentido. Mas ainda assim, não sabemos exatamente, ainda, como de um prompt a chega-se a um resultado b, com exatidão suficiente para se auditar isso.

engenharia reversa a ponto de os resultados dos chatbots serem auditaveis. Ou seja, não temos como saber, exatamente, como eles chegaram a um determinado resultado. Isso não quer dizer, por outro lado, que há chance de serem seres pensantes. Como a moça disse, o próprio jeito que as alucinações +

Acho que são dois conceitos diferentes. Ninguém sabe exatamente como funcionam os LLMs não por uma questão de software proprietário, mas por uma questão da própria tecnologia de redes neurais trabalhar com trocentas camadas, gerando meio que uma caix preta mesmo. Ainda não conseguimos fazer +

Noix

Aoba. Tava resolvendo problema da vida de verdade rs mas tô de vorta

This drum is sick

Exatamente

Mais pra Chespiritiano. Chapoliniano. Chavesiliano.

Achei que ia morrer de vergonha. Aí lembrei que sou 30+, que ninguém paga minhas conta, e que vou sobreviver.

Isso daí é inveja.