Usamos NPU para completar el despliegue de código local en producción, y luego queremos introducir la capacidad de usar PHI-3-VISION para convertir imágenes en código.
En esta introducción, podemos construir rápidamente un servicio Phi-3 Vision como Modelo como Servicio en Azure Machine Learning Service.
Nota: Phi-3 Vision requiere poder de cómputo para generar contenido a mayor velocidad. Necesitamos la potencia de la nube para ayudarnos a lograr esto.
Necesitamos crear un Azure Machine Learning Service en el Portal de Azure. Si deseas aprender cómo hacerlo, por favor visita este enlace https://learn.microsoft.com/azure/machine-learning/quickstart-create-resources?view=azureml-api-2
Nota
-
Los parámetros que se deben transmitir deben incluir Authorization, azureml-model-deployment y Content-Type. Necesitas verificar la información del despliegue para obtenerlos.
-
Para transmitir parámetros, Phi-3-Vision requiere enviar un enlace de imagen. Por favor, consulta el método de GPT-4-Vision para transmitir parámetros, como:
{
"input_data":{
"input_string":[
{
"role":"user",
"content":[
{
"type": "text",
"text": "You are a Python coding assistant.Please create Python code for image "
},
{
"type": "image_url",
"image_url": {
"url": "https://ajaytech.co/wp-content/uploads/2019/09/index.png"
}
}
]
}
],
"parameters":{
"temperature": 0.6,
"top_p": 0.9,
"do_sample": false,
"max_new_tokens": 2048
}
}
}
- Llama a /score usando el método Post.
¡Felicidades! Has completado el despliegue rápido de PHI-3-VISION y probado cómo usar imágenes para generar código. A continuación, podemos construir aplicaciones combinando NPUs y la nube.
Descargo de responsabilidad:
Este documento ha sido traducido utilizando servicios de traducción automática basados en inteligencia artificial. Si bien nos esforzamos por lograr precisión, tenga en cuenta que las traducciones automatizadas pueden contener errores o imprecisiones. El documento original en su idioma nativo debe considerarse como la fuente autorizada. Para información crítica, se recomienda una traducción profesional realizada por humanos. No nos hacemos responsables de malentendidos o interpretaciones erróneas que surjan del uso de esta traducción.