README.md

Phi Cookbook: Ejemplos Prácticos con los Modelos Phi de Microsoft

Phi es una serie de modelos de inteligencia artificial de código abierto desarrollados por Microsoft.

Actualmente, Phi es el modelo de lenguaje pequeño (SLM) más potente y rentable, con excelentes resultados en benchmarks de múltiples idiomas, razonamiento, generación de texto/chat, codificación, imágenes, audio y otros escenarios.

Puedes implementar Phi en la nube o en dispositivos de borde, y construir fácilmente aplicaciones de inteligencia artificial generativa con recursos computacionales limitados.

Sigue estos pasos para comenzar a usar estos recursos:

1. Haz un Fork del Repositorio: Haz clic en
2. Clona el Repositorio: git clone https://github.com/microsoft/PhiCookBook.git
3. Únete a la Comunidad de Microsoft AI en Discord y conecta con expertos y otros desarrolladores

Tabla de Contenidos

• Introducción

  • Bienvenido a la Familia Phi
  • Configurando tu entorno
  • Entendiendo las Tecnologías Clave
  • Seguridad en IA para los Modelos Phi
  • Soporte de Hardware para Phi
  • Modelos Phi y Disponibilidad en Plataformas
  • Usando Guidance-ai y Phi
  • Modelos en GitHub Marketplace
  • Catálogo de Modelos de Azure AI

• Inferencia de Phi en diferentes entornos

  • Hugging Face
  • Modelos en GitHub
  • Catálogo de Modelos de Azure AI Foundry
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM

• Inferencia de la Familia Phi

  • Inferencia de Phi en iOS
  • Inferencia de Phi en Android

• Inferencia Phi en Jetson

  • Inferencia Phi en PC de IA
  • Inferencia Phi con el Framework Apple MLX
  • Inferencia Phi en un Servidor Local
  • Inferencia Phi en un Servidor Remoto usando AI Toolkit
  • Inferencia Phi con Rust
  • Inferencia Phi--Vision en Local
  • Inferencia Phi con Kaito AKS, Azure Containers (soporte oficial)

• Cuantificación de la Familia Phi

  • Cuantificación de Phi-3.5 / 4 usando llama.cpp
  • Cuantificación de Phi-3.5 / 4 usando extensiones de Generative AI para onnxruntime
  • Cuantificación de Phi-3.5 / 4 usando Intel OpenVINO
  • Cuantificación de Phi-3.5 / 4 usando el Framework Apple MLX

• Evaluación de Phi

  • IA Responsable
  • Azure AI Foundry para Evaluación
  • Usando Promptflow para Evaluación

• RAG con Azure AI Search

  • Cómo usar Phi-4-mini y Phi-4-multimodal (RAG) con Azure AI Search

• Ejemplos de desarrollo de aplicaciones Phi

  • Aplicaciones de Texto y Chat
    • Ejemplos de Phi-4 🆕
      • [📓] Chat con el Modelo Phi-4-mini ONNX
      • Chat con el Modelo Local Phi-4 ONNX en .NET
      • Aplicación de Consola .NET para Chat con Phi-4 ONNX usando Semantic Kernel
    • Ejemplos de Phi-3 / 3.5
      • Chatbot Local en el navegador usando Phi3, ONNX Runtime Web y WebGPU
      • Chat con OpenVino
      • Modelo Múltiple - Phi-3-mini interactivo y OpenAI Whisper
      • MLFlow - Construyendo un wrapper y usando Phi-3 con MLFlow
      • Optimización de Modelos - Cómo optimizar el modelo Phi-3-min para ONNX Runtime Web con Olive
      • Aplicación WinUI3 con Phi-3 mini-4k-instruct-onnx
      • Aplicación de Notas con IA y Múltiples Modelos en WinUI3
      • Ajuste fino e integración de modelos personalizados Phi-3 con Promptflow
      • Ajuste fino e integración de modelos personalizados Phi-3 con Promptflow en Azure AI Foundry
      • Evaluación del Modelo Ajustado Phi-3 / Phi-3.5 en Azure AI Foundry con enfoque en los Principios de IA Responsable de Microsoft

• [📓] Muestra de predicción de lenguaje Phi-3.5-mini-instruct (Chino/Inglés)
  - Chatbot RAG WebGPU Phi-3.5-Instruct
  - Usar GPU de Windows para crear una solución Prompt flow con Phi-3.5-Instruct ONNX
  - Usar Microsoft Phi-3.5 tflite para crear una app Android
  - Ejemplo de preguntas y respuestas en .NET usando el modelo local ONNX Phi-3 con Microsoft.ML.OnnxRuntime
  - Aplicación de consola .NET para chat con Semantic Kernel y Phi-3

  • Muestras basadas en código del SDK de Inferencia de Azure AI

    • Muestras de Phi-4 🆕
      • [📓] Generar código de proyecto usando Phi-4-multimodal
    • Muestras de Phi-3 / 3.5
      • Crea tu propio chat de Visual Studio Code GitHub Copilot con la familia Microsoft Phi-3
      • Crea tu propio agente de chat de Visual Studio Code Copilot con Phi-3.5 y modelos de GitHub

  • Muestras de razonamiento avanzado

    • Muestras de Phi-4 🆕
      • [📓] Muestras de razonamiento Phi-4-mini

  • Demos

    • Demos de Phi-4-mini alojados en Hugging Face Spaces
    • Demos de Phi-4-multimodal alojados en Hugging Face Spaces

  • Muestras de visión

    • Muestras de Phi-4 🆕
      • [📓] Usar Phi-4-multimodal para leer imágenes y generar código
    • Muestras de Phi-3 / 3.5
      • [📓]Phi-3-vision - De texto en imagen a texto
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP Embedding
      • DEMO: Phi-3 Reciclaje
      • Phi-3-vision - Asistente visual de lenguaje - con Phi3-Vision y OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Muestra Phi-3.5 Vision multi-frame o multi-image
      • Modelo local ONNX Phi-3 Vision usando Microsoft.ML.OnnxRuntime .NET
      • Modelo local ONNX Phi-3 Vision basado en menú usando Microsoft.ML.OnnxRuntime .NET

  • Muestras de audio

    • Muestras de Phi-4 🆕
      • [📓] Extraer transcripciones de audio usando Phi-4-multimodal
      • [📓] Muestra de audio Phi-4-multimodal
      • [📓] Muestra de traducción de voz Phi-4-multimodal
      • Aplicación de consola .NET usando Phi-4-multimodal Audio para analizar un archivo de audio y generar una transcripción

  • Muestras de MOE

    • Muestras de Phi-3 / 3.5
      • [📓] Modelos Mixture of Experts (MoEs) Phi-3.5 - Ejemplo de redes sociales
      • [📓] Construir un pipeline de generación aumentada por recuperación (RAG) con NVIDIA NIM Phi-3 MOE, Azure AI Search y LlamaIndex

  • Muestras de llamadas a funciones

    • Muestras de Phi-4 🆕
      • [📓] Usar llamadas a funciones con Phi-4-mini

  • Muestras de mezcla multimodal

    • Muestras de Phi-4 🆕

• [📓] Usar Phi-4-multimodal como periodista tecnológico

  • Aplicación de consola .NET usando Phi-4-multimodal para analizar imágenes

• Ajuste fino de muestras de Phi

  • Escenarios de ajuste fino
  • Ajuste fino vs RAG
  • Ajuste fino: Deja que Phi-3 se convierta en un experto de la industria
  • Ajuste fino de Phi-3 con AI Toolkit para VS Code
  • Ajuste fino de Phi-3 con Azure Machine Learning Service
  • Ajuste fino de Phi-3 con Lora
  • Ajuste fino de Phi-3 con QLora
  • Ajuste fino de Phi-3 con Azure AI Foundry
  • Ajuste fino de Phi-3 con Azure ML CLI/SDK
  • Ajuste fino con Microsoft Olive
  • Ajuste fino con el laboratorio práctico de Microsoft Olive
  • Ajuste fino de Phi-3-vision con Weights and Bias
  • Ajuste fino de Phi-3 con Apple MLX Framework
  • Ajuste fino de Phi-3-vision (soporte oficial)
  • Ajuste fino de Phi-3 con Kaito AKS, Azure Containers (soporte oficial)
  • Ajuste fino de Phi-3 y 3.5 Vision

• Laboratorio práctico

  • Explorando modelos de vanguardia: LLMs, SLMs, desarrollo local y más
  • Desbloqueando el potencial de NLP: Ajuste fino con Microsoft Olive

• Artículos de investigación académica y publicaciones

  • Los libros de texto son todo lo que necesitas II: informe técnico de phi-1.5
  • Informe técnico de Phi-3: un modelo de lenguaje altamente capaz en tu teléfono
  • Informe técnico de Phi-4
  • Optimizando modelos de lenguaje pequeños para funciones en vehículos
  • (WhyPHI) Ajuste fino de PHI-3 para responder preguntas de opción múltiple: Metodología, resultados y desafíos

Uso de modelos Phi

Phi en Azure AI Foundry

Puedes aprender cómo usar Microsoft Phi y cómo construir soluciones de extremo a extremo en tus diferentes dispositivos de hardware. Para experimentar Phi por ti mismo, comienza probando los modelos y personalizando Phi para tus escenarios usando el Catálogo de Modelos de Azure AI Foundry. Puedes aprender más en Introducción a Azure AI Foundry.

Playground
Cada modelo tiene un área de pruebas dedicada para probar el modelo Azure AI Playground.

Phi en Modelos de GitHub

Puedes aprender cómo usar Microsoft Phi y cómo construir soluciones de extremo a extremo en tus diferentes dispositivos de hardware. Para experimentar Phi por ti mismo, comienza probando el modelo y personalizando Phi para tus escenarios usando el Catálogo de Modelos de GitHub. Puedes aprender más en Introducción a GitHub Model Catalog.

Playground
Cada modelo tiene un entorno de prueba dedicado para probar el modelo.

Phi en Hugging Face

También puedes encontrar el modelo en Hugging Face

Entorno de prueba
Entorno de prueba de Hugging Chat

IA Responsable

Microsoft está comprometido a ayudar a nuestros clientes a usar nuestros productos de IA de manera responsable, compartiendo nuestros aprendizajes y construyendo asociaciones basadas en la confianza a través de herramientas como las Notas de Transparencia y las Evaluaciones de Impacto. Muchos de estos recursos se pueden encontrar en https://aka.ms/RAI.
El enfoque de Microsoft hacia la IA responsable se basa en nuestros principios de IA: equidad, confiabilidad y seguridad, privacidad y protección, inclusión, transparencia y responsabilidad.

Los modelos a gran escala de lenguaje natural, imágenes y voz, como los utilizados en este ejemplo, pueden comportarse de maneras que sean injustas, poco confiables o ofensivas, lo que podría causar daños. Por favor, consulta la nota de transparencia del servicio Azure OpenAI para estar informado sobre los riesgos y limitaciones.

El enfoque recomendado para mitigar estos riesgos es incluir un sistema de seguridad en tu arquitectura que pueda detectar y prevenir comportamientos dañinos. Azure AI Content Safety proporciona una capa independiente de protección, capaz de detectar contenido dañino generado por usuarios o por IA en aplicaciones y servicios. Azure AI Content Safety incluye APIs de texto e imagen que te permiten detectar material dañino. Dentro de Azure AI Foundry, el servicio Content Safety te permite visualizar, explorar y probar código de ejemplo para detectar contenido dañino en diferentes modalidades. La siguiente documentación de inicio rápido te guía a través de cómo realizar solicitudes al servicio.

Otro aspecto a tener en cuenta es el rendimiento general de la aplicación. Con aplicaciones multimodales y de múltiples modelos, consideramos que el rendimiento significa que el sistema funciona como tú y tus usuarios esperan, incluyendo no generar resultados dañinos. Es importante evaluar el rendimiento de tu aplicación general utilizando Evaluadores de Rendimiento y Calidad y de Riesgos y Seguridad. También tienes la capacidad de crear y evaluar con evaluadores personalizados.

Puedes evaluar tu aplicación de IA en tu entorno de desarrollo utilizando el SDK de Evaluación de Azure AI. Dado un conjunto de datos de prueba o un objetivo, las generaciones de tu aplicación de IA generativa se miden cuantitativamente con evaluadores integrados o personalizados de tu elección. Para comenzar con el SDK de evaluación de Azure AI y evaluar tu sistema, puedes seguir la guía de inicio rápido. Una vez que ejecutes una evaluación, puedes visualizar los resultados en Azure AI Foundry.

Marcas Registradas

Este proyecto puede contener marcas registradas o logotipos de proyectos, productos o servicios. El uso autorizado de marcas registradas o logotipos de Microsoft está sujeto a y debe cumplir con las Directrices de Marca y Logotipo de Microsoft.
El uso de marcas registradas o logotipos de Microsoft en versiones modificadas de este proyecto no debe causar confusión ni implicar patrocinio por parte de Microsoft. Cualquier uso de marcas registradas o logotipos de terceros está sujeto a las políticas de esos terceros.

Descargo de responsabilidad:
Este documento ha sido traducido utilizando servicios de traducción automática basados en inteligencia artificial. Si bien nos esforzamos por garantizar la precisión, tenga en cuenta que las traducciones automáticas pueden contener errores o imprecisiones. El documento original en su idioma nativo debe considerarse la fuente autorizada. Para información crítica, se recomienda una traducción profesional realizada por humanos. No nos hacemos responsables de malentendidos o interpretaciones erróneas que puedan surgir del uso de esta traducción.