תשובה קצרה: ממשק של מוצר AI נבנה סביב המשימה של המשתמש. התוצר צריך להופיע במסך שבו עובדים ממילא, עם מקור לכל תשובה, דרך מהירה לתקן טעות, ואישור אנושי לפני פעולה ששולחת, משלמת או מוחקת. צ׳אט מתאים לשאלות פתוחות, פחות למשימות שחוזרות כל יום.
עיקרי הדברים
- צ׳אט הוא תבנית אחת מתוך כמה: כפתור שמנסח תשובה בתוך הפנייה עצמה חוסך מעבר לחלון עוזר נפרד.
- מקורות יוצרים אמון: תשובה שמבוססת על מסמכי החברה צריכה לקשר לקטע המדויק שממנו נלקחה.
- אישור לפני פעולה חיצונית: רשימת OWASP לאפליקציות LLM לשנת 2025 מגדירה את הסיכון Excessive Agency (LLM06) וממליצה על אישור אנושי לפעולות בעלות השפעה גבוהה.
- עברית דורשת הגדרת כיוון: פלט שמערב עברית ואנגלית מוצג משובש אם לא מגדירים כיוון לכל בלוק, למשל עם
dir="auto".
צ׳אט או פעולות מוטמעות
צ׳אט עובד כשהמשתמש לא יודע מראש מה ישאל, כמו בחיפוש במאגר ידע. כשאותה בקשה חוזרת עשרות פעמים ביום, כמו סיכום תיק תביעה, עדיף כפתור שמפעיל פרומפט מוכן ומכניס את התוצאה ישר לשדה בטופס. מוצרים רבים משלבים פעולות לתרחישים נפוצים עם חלונית צד. ההבחנה משנה את היקף פיתוח מערכת ה-AI, כי לכל פעולה מוטמעת יש פרומפט, מקרי בדיקה וטיפול בכשל משלה.
מאז 2 באוגוסט 2026, סעיף 50 בחוק ה-AI של האיחוד האירופי מחייב ליידע אנשים שהם מתקשרים עם מערכת AI, אלא אם זה ברור מההקשר. זה חל גם על מוצר ישראלי עם משתמשים באיחוד.
מקורות, אי-ודאות וטעויות
תשובה עם קישור לעמוד 4 בחוזה אפשר לבדוק תוך שניות; תשובה בלי מקור דורשת אמון עיוור. בעוזר שעונה מתוך מסמכים, הציטוט מופיע בגוף התשובה ופותח את הקטע המקורי, כמו בסוכן AI שעונה מתוך מסמכי הארגון. כשהחיפוש לא מצא דבר רלוונטי, הממשק אומר את זה במקום לתת למודל לאלתר. ההסבר הטכני במדריך לחיפוש מסמכים עם RAG.
18 ההנחיות של מיקרוסופט לאינטראקציה בין אדם ל-AI, שהוצגו בכנס CHI ב-2019, כוללות תמיכה בתיקון יעיל בין הכללים למצב שבו המערכת טועה. בפועל: עריכת הפלט במקום, יצירה מחדש של פסקה אחת, ודירוג שלילי ששואל מה השתבש. חריגה מזמן או ממכסת קריאות מקבלת הודעה משלה וניסיון חוזר אוטומטי.
