Un abogado graba una hora de reunión con un cliente. Una clínica tiene años de notas, imágenes y audios de consultas. Un banco guarda llamadas de atención. Buscar en todo eso o ponerlo por escrito es trabajo que la IA hace bien, y que muchas de esas organizaciones no pueden mandar a un tercero porque su política dice que el dato no sale.

Esa restricción tenía un costo: se resignaban a una calidad menor. Dos lanzamientos de octubre lo cambian, con límites que conviene mirar.

Dos piezas que caben en tu equipo

La primera es EmbeddingGemma 2, que Google publicó el 6 de octubre. Son 740 millones de parámetros con licencia Apache 2.0, en módulos: 270 millones para texto y código, 170 millones para imágenes y video, 300 millones para audio. Convierte todo eso en vectores dentro de un mismo espacio, así que puedes escribir “radiografía de tórax con sombra en el lóbulo inferior” y encontrar la imagen, la nota y el audio que hablan de lo mismo.

¿Cuánta memoria pide? Google la midió en un Pixel 11 Pro: unos 191 MB solo con texto y unos 567 MB el modelo completo. Un teléfono. Pasaste de “necesito un servidor” a “cabe en el bolsillo del médico”.

La segunda es Parakeet Ultra, de Moondream, un modelo abierto de 600 millones de parámetros que transcribe 25 idiomas y baja el error de palabras en el conjunto FLEURS de 11,62% a 9,55% frente al modelo de NVIDIA del que parte.

Sobre ese modelo, Nigel Cannings reportó una hora de audio transcrita en 0,73 segundos en una NVIDIA DGX Spark, unas 4.903 veces el tiempo real, con la misma precisión. Es su medición, con código optimizado por él, y no la he reproducido. Ese tipo de cifra suele medirse con muchas solicitudes a la vez, así que no significa que una grabación tuya salga en menos de un segundo.

Lo que esto cambia, y lo que no

Cambia que el dato puede quedarse en tu red. Tus grabaciones, tus expedientes y tus contratos se indexan y se transcriben en una máquina que tú controlas.

No cambia que cumplir con una norma sigue siendo un tema aparte. Tener el modelo en casa no te deja en regla por sí solo. Y hay cuatro cosas que EmbeddingGemma 2 y Parakeet no resuelven.

Falta	Por qué importa
Alguien que escriba la respuesta	EmbeddingGemma 2 no genera texto. Encuentra el documento, no redacta el resumen. Para eso necesitas otro modelo, también local
Proteger los vectores	Un estudio presentado en EMNLP 2023 recuperó exactamente el 92% de textos de 32 tokens a partir de sus vectores, incluidos nombres completos en notas clínicas
Probar con tus datos	Google habla de buen rendimiento multilingüe en general. Tu jerga clínica o legal en español es otra prueba
Permisos y registros	Quién consulta qué, y qué quedó anotado

Sobre la primera fila: el modelo que redacta es la parte pesada. Lo conté en el post de Colibrì, donde un modelo gigante corría en una laptop pero a un token cada 10 a 20 segundos, y en el de Alex Finn sobre por qué más RAM no era el cuello de botella. Para redactar con datos sensibles, lo realista hoy es un modelo mediano. Para buscar y transcribir, ya no hace falta uno grande.

La segunda fila me parece la más subestimada. Mucha gente trata la base de vectores como un índice inofensivo. El trabajo de Morris, Kuleshov, Shmatikov y Rush dice que no lo es. Guárdala con el mismo cifrado y los mismos permisos que los documentos.

Por dónde empezar

No compres hardware primero. Toma un puñado de documentos reales, ya anonimizados, y una hora de audio de prueba. Corre las dos piezas en una sola máquina y mira tres cosas: si la búsqueda encuentra lo que tu gente de operaciones sabe que debería encontrar, cuántas palabras de la transcripción hay que corregir a mano, y cuánto tarda de verdad.

Eso es parte de lo que se decide en AI Maestro para bufetes, y la misma lógica vale para clínicas y servicios financieros. La Etapa 1 corre con las herramientas que la política de la empresa ya aprobó, incluso si esa política prohíbe los modelos en la nube, de modo que nadie compra nada nuevo para probar si esto sirve.

Prueba la búsqueda local con tus propios documentos