Cuando empezo el boom de la Inteligencia Artificial, me propuse montar mi propio servidor debido a las siguientes razones:
- Queria hacer mis propias herramientas (scripts, automatizaciones, etc) pero debido al trabajo que tengo, no puedo revelar informacion de ventas y/o clientes en plataformas abiertas (seria una falta real a la probidad laboral). Por esto era necesario que los datos solo quedaran dentro de mis archivos y red
- Crei en ese momento, que lo barato de los tokens iba a ser pasajero (que realmente fue lo que acontecio) y necesitaba tener otro plan en el caso que pasara
- Si entendia desde la raiz el proceso de montar un servidor de IA local, me ayudaria a crear un entorno a mi medida y no depender de estructuras ni metodologias de trabajo externas, basicamente queria crear un entorno a mi medida.
Estas primeras razones me llevaron a crear mi propio entorno de IA, pero tambien fue importante el tema del costo. aunque quizas me podria permitir comprar una grafica de alta gama y un computador dedicado, ya que este entorno solo lo usaria para mis proyectos personales, no tendria una retribucion directa la inversion inicial (que seamos honestos, cada dia que pasa se hace mas grande). es debido a esto que me fui por otra via, que era lo que realmente necesitaba hacer y cuanto seria el minimo posible para lograrlo.
Lo que respecta al software y hardware lo hablaremos en otro post, pero les puedo decir que en este momento con mi entorno de IA he logrado hacer lo siguiente:
- Brainstorming de mis ideas para luego ordenarlas de manera logica
- Redaccion de textos (aunque en particular este blog lo escribire yo directamente, sin IA).
- Creacion de scripts en Python que me ayudan a optimizar mis procesos del trabajo, lo que me permite recuperar mucho tiempo que dedicaba a laboras administrativas que ahora vuelve a ser mio.
- Creacion de paginas web y pequeñas aplicaciones en PHP, tales como este blog, sistemas de inventarios a medida y CRUD para la recoleccion de datos.
Esta demas decir que para maquinas que recolecte y que en teoria es hardware obsoleto esta demasiado bien no?
Lo unico que creo que deben tener en consideracion es el tiempo en la generacion de tokens. NO estamos delante de maquinas que entregaran respuestas inmediatas, pero si tenemos paciencia y usamos algunos trucos, podremos obtener resultados muy buenos a un costo real extremadamente bajo.