ד"ר ינאי אלעזר

הסברתיות, ייחוס נתונים והערכת מודלים גנרטיביים

מודלים גנרטיביים כגון מודלי שפה גדולים מגיעים להישגים מרשימים במגוון תחומים, אך האם ניתן לסמוך עליהם? בעקבות התכנון של מודלים גנרטיביים המתבססים על אלגורתימי למידת מכונה, מודלים אלו מתפקדים למעשה כקופסה שחורה, ואנחנו לא מבינים כיצד הם פועלים, מתי, או למה. במשימות מורכבות וחיוניות, היכולת להבין, לבחון ולשלוט במודלים גנרטיביים הופכת לחיונית.

ד"ר ינאי אלעזר מפתח שיטות ש"פותחות" את הקופסה הזו ומאפשרות להבין את התנהגות המודל. מחקרו כולל פיתוח כלים לזיהוי מאפיינים ואיתור המקורות שמהן המודל למד, במטרה להפוך את המערכות לאמינות ושקופות יותר. עבודתו מאפשרת את ניתוח התהליך שהוביל להתנהגויות, כגון מהימנות, הוגנות, יעילות וידע של המודל.

 תחומי מחקר מרכזיים:

• הסברתיות (Interpretability): חשיפת המנגנונים הפנימיים שבאמצעותם מודלים מקבלים החלטות.

• הערכת מודלים גנרטיביים: פיתוח מתודולוגיות לבחינת האמינות והיכולות של מודלים.

• ייחוס נתונים: ניתוח השפעת נתוני האימון על פלט המודל.

אופי המחקר:

ניסויי: בחינה של מודלים גנרטיביים ופיתוח כלים להערכת התנהגותם.

אופק תעסוקתי:

בוגרות ובוגרי המעבדה משתלבים במגוון תפקידים:

• תעשייה: חוקרי AI בחברות טכנולוגיה מובילות

• אקדמיה: חוקרים ומרצים בתחומי הבינה המלאכותית ולמידת מכונה