>>17973 Como son de fascistas van a prohibirlas solo para el pueblo. Así que junten IA

>>17974 Que bueno que estan las gratis de codigo abierto.

No entendí. ¿No es lo mismo revisar su expediente? ¿O son tan inútiles que necesitan el chatpgt para que les haga un resumen?

>>17986 Son así de inútiles

>>17975 sí y necesitas un pc de 3 palos para correrla

Eso es barato, probablemente están pagando una millonada por la api de openai para usar una Rag toda cagona con pdfs de expedientes.

>>17998 Se supone que es un software desarrollado por ingenegros de Bauchef, supongo que ahí mismo tendrán la infraestructura por lo que no debería ser caro.

Las demandas que les van a crear cuando estos modelos de mierda generen alucinaciones.

>>18000 >cuando generen <no sabe que ya están alucinando

>>17988 Mentira weon, yo puedo con una gpu de 9 años de antigüedad y una cpu igual de vieja que salio 12 lucas y fue sacada de un server.

>>18002 Ahora ponle 50 usuarios concurrentes y cuentanos. Aparte buena suerte corriendo un modelito de estado del arte en tu tarjeta del año de la callampa. Si te banca uno de 7B parámetros bacán, pero los de mercado superan con creces ese numero.

>>18007 Y para qué quiero otros usuarios? Yo soy el único usuario que me importa. Ademas la discusión partió de como hacer cuando prohíban las IAs online (y la solución, un pc local que ni es tan caro) no de hacer un negocio. No entendí esa movida de arco. >Si te banca uno de 7B parámetros bacán, pero los de mercado superan con creces ese numero. Como cuales? Nombrate algunos, puedo correr pony e illustrious sin problema, no he probado el flux, pero asumo que también lo puedo correr.

>>18008 Llama 3 lo encuentras en 3, 7, 11, 70 y 405B de parámetros. Mistral anda por los 24B DeepSeek tiene distills de 7, 8, 24, 32, 70B pero el the real modelo es de 671B de parámetros.

>>18030 Cualquier cosa de menos de 70b es un juguete, a lo mejor sirve si le haces fine tuning pero igual tendras que arrendar algun servidor potente. Si quieres correr llms decentes necesitas al menos dos tarjetas de 24/32gb y 128 de ram. Lo mas barato ahora son las radeon mi50 de 32gb, estan a 220 cada una en aliexpress.