Nunca lo usé. Todos mis LLM los estoy hosteando localmente desde hace tiempo, lo que me falta es armar un dispositivo lo suficientemente eficiente como para tenerlo prendido todo el rato.
Por cierto, ya es conocimiento común que la """IA""" es burbuja, así que eventualmente todo eso va a colapsar.