חיבוק Face Inference API עם Python

Hybwq Face Inference Api M Python



Hugging Face מזוהה כקהילה של בינה מלאכותית בקוד פתוח והיא מורכבת ממגוון עצום של מסגרות, כלים, ארכיטקטורות ומודלים בקוד פתוח לבנייה ואינטראקציה עם מודלים של AI ועיבוד שפה טבעית. Hugging Face מספק הפרעה הניתנת לתכנות של אפליקציה כ- 'Inference API'. ממשק API זה משמש לפריסת מודלים של למידת מכונה ו-AI לצורך קבלת החלטות ותחזיות בזמן אמת. API זה מאפשר למפתחים להשתמש במודלים של NLP שהוכשרו מראש כדי לתת תחזיות על מערך הנתונים החדש.

תחביר:

קיים מגוון שירותים שחיבק פייס מספקת אך אחד מהשירותים הנפוצים שלה הוא 'API'. API מאפשר אינטראקציה של AI המאומנים מראש ומודלים של שפות גדולות ליישומים שונים. Hugging Face מספק את ממשקי ה-API עבור דגמים שונים כמפורט ברשימה הבאה:

  • מודלים ליצירת טקסט
  • דגמי תרגום
  • מודלים לניתוח הסנטימנטים
  • מודלים לפיתוח סוכנים וירטואליים (צ'טבוטים אינטליגנטיים)
  • סיווג ומודלי הרגרסיה

כעת נגלה את השיטה לקבל את ה-API המותאם אישית שלנו להסקת מסקנות מ-Huging Face. כדי לעשות זאת, ראשית עלינו להתחיל ברישום עצמנו באתר הרשמי של Hugging Face. הצטרף לקהילה הזו של Hugging Face על ידי הרשמה לאתר זה עם האישורים שלך.









ברגע שנקבל חשבון ב-Huging Face, כעת עלינו לבקש את ה-API להסקת מסקנות. כדי לבקש את ה-API, עבור להגדרות החשבון ובחר ב'אסימון הגישה'. חלון חדש ייפתח. בחר באפשרות 'אסימון חדש' ולאחר מכן צור את האסימון על ידי מתן תחילה את שם האסימון ותפקידו כ'כתוב'. נוצר אסימון חדש. כעת, עלינו לשמור את האסימון הזה. עד לנקודה זו, יש לנו את האסימון שלנו מהפנים המחבקות. בדוגמה הבאה, נראה כיצד נוכל להשתמש באסימון הזה כדי לקבל ממשק API להסקה.







דוגמה 1: כיצד ליצור אב טיפוס עם Hugging Face Inference API

עד כה, דנו בשיטה כיצד להתחיל עם Hugging Face ואתחלנו אסימון מ-Huging Face. דוגמה זו מראה כיצד אנו יכולים להשתמש באסימון החדש שנוצר על מנת לקבל ממשק API עבור מודל ספציפי (למידת מכונה) ולבצע תחזיות באמצעותו. מדף הבית של Hugging Face בחר כל דגם שאתה רוצה לעבוד איתו שרלוונטי לבעיה שלך. נניח שאנו רוצים לעבוד עם סיווג הטקסט או מודל ניתוח הסנטימנט כפי שמוצג בקטע הבא של רשימת המודלים הללו:



אנו בוחרים את מודל ניתוח הסנטימנט ממודל זה.

לאחר בחירת הדגם, יופיע כרטיס הדגם שלו. כרטיס דגם זה מכיל מידע לגבי פרטי ההדרכה של הדגם ואיזה מאפיינים יש לדגם. המודל שלנו הוא roBERTa-base אשר מאומן על 58M ציוצים לניתוח סנטימנטים. למודל זה שלוש תוויות מחלקות עיקריות והוא מסווג כל קלט לתוויות המחלקות הרלוונטיות לה.

לאחר בחירת הדגם, אם נבחר בכפתור הפריסה שנמצא בפינה השמאלית העליונה של החלון, הוא יפתח תפריט נפתח. מתפריט זה, עלינו לבחור באפשרות 'מסקנות API'.

לאחר מכן, ה-API להסקת מסקנות מספק הסבר שלם כיצד להשתמש במודל הספציפי הזה עם ההסקה הזו ומאפשר לנו ליצור במהירות את אב הטיפוס עבור מודל הבינה המלאכותית. חלון ה-API להסיק מציג את הקוד שנכתב בסקריפט של Python.

אנו מעתיקים את הקוד הזה ומפעילים את הקוד הזה בכל אחד מ-Python IDE. אנחנו משתמשים ב-Google Colab בשביל זה. לאחר ביצוע קוד זה במעטפת Python, הוא מחזיר פלט שמגיע עם הניקוד וחיזוי התווית. תווית וציון אלו ניתנים בהתאם לקלט שלנו מכיוון שבחרנו במודל 'ניתוח טקסט-סנטימנט'. לאחר מכן, הקלט שאנו נותנים למודל הוא משפט חיובי והמודל הוכשר מראש על שלוש מחלקות תווית: תווית 0 מרמזת על שלילי, תווית1 מרמזת על נייטרלי והתווית 2 מוגדרת כחיובית. מכיוון שהקלט שלנו הוא משפט חיובי, חיזוי הניקוד מהמודל הוא יותר משתי התוויות האחרות, מה שאומר שהמודל חזה את המשפט כ'חיובי'.

יְבוּא בקשות

API_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
כותרות = { 'הרשאה' : 'נשא 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' }

def שאילתא ( מטען ) :
תְגוּבָה = בקשות. הודעה ( API_URL , כותרות = כותרות , json = מטען )
לַחֲזוֹר תְגוּבָה. json ( )

תְפוּקָה = שאילתא ( {
'תשומות' : 'אני מרגיש טוב כשאתה איתי' ,
} )

תְפוּקָה:

דוגמה 2: מודל סיכום באמצעות מסקנות

אנו מבצעים את אותם השלבים כפי שמוצגים בדוגמה הקודמת ואב-טיפוס של אוטובוס מודל הסיכום באמצעות ה-API של ההסקה שלו מ-Huging Face. מודל הסיכום הוא מודל מאומן מראש המסכם את כל הטקסט שאנו נותנים לו כקלט שלו. היכנסו לחשבון Hugging Face, לחצו על הדגם מסרגל התפריטים העליון ולאחר מכן בחרו את הדגם הרלוונטי לסיכום, בחרו אותו וקראו בעיון את כרטיס הדגם שלו.

המודל שבחרנו הוא מודל BART מאומן מראש והוא מכוון היטב לדואר הדואר היוקרתי של CNN. BART הוא דגם הדומה ביותר לדגם BERT שיש לו מקודד ומפענח. מודל זה יעיל כאשר הוא מכוון למשימות הבנה, סיכום, תרגום ויצירת טקסט.

לאחר מכן, בחר בלחצן 'פריסה' מהפינה השמאלית העליונה ובחר ב-API להסקת מסקנות מהתפריט הנפתח. ה-API להסקת מסקנות פותח חלון נוסף המכיל את הקוד ואת ההנחיות לשימוש במודל זה עם מסקנות זה.

העתק את הקוד הזה והפעל אותו במעטפת Python.

המודל מחזיר את הפלט שהוא סיכום הקלט שהזנו אליו.

סיכום

עבדנו על ה- API של Hugging Face Inference ולמדנו כיצד אנו יכולים להשתמש בממשק הניתן לתכנות של יישום זה כדי לעבוד עם מודלים של שפה שהוכשרו מראש. שתי הדוגמאות שעשינו במאמר התבססו בעיקר על מודלים של NLP. Hugging Face API יכול לחולל פלאים אם אנחנו רוצים לפתח אב טיפוס מהיר על ידי מתן שילוב מהיר של דגמי AI באפליקציות שלנו. בקיצור, לחבק פנים יש פתרונות לכל הבעיות שלך מלימוד חיזוק ועד ראייה ממוחשבת.