כשהמכונה נשמעת אכפתית: סכנה או הזדמנות למחנכים בעידן ה-AI?

כולנו מרגישים את זה. הבינה המלאכותית כבר לא מדע בדיוני, היא כאן. היא כותבת, יוצרת, ועכשיו היא גם... מדברת איתנו. שיחות עם צ'אטבוטים מרגישות טבעיות מאי פעם, ולעיתים, אפילו אמפתיות. תלמידים שלנו מנהלים שיחות עם דמויות היסטוריות, דמויות מספרי מדע בדיוני, או סתם "חבר AI" דרך אפליקציות כמו Character.ai. זה מרתק, זה חדשני, וזה גם מחייב אותנו לעצור רגע ולחשוב.

מאמר שפורסם לאחרונה בכתב העת היוקרתי Nature על ידי מדען המוח זיו בן-ציון, שופך אור בדיוק על הנקודה הרגישה הזאת. המאמר, שכותרתו "מדוע אנו זקוקים למנגנוני הגנה עבור בינה מלאכותית רגשית", מציג תמונה מורכבת וחשובה לכל מי שעוסק בחינוך.

תמונה שנוצרה עם  imagine.art

האמת המדעית: מה באמת קורה בשיחה עם AI "רגשי"?

המאמר מפרק את הקסם למרכיביו. צ'אטבוטים נשמעים אמפתיים לא כי הם מרגישים משהו, אלא כי הם למדו לחקות באופן מושלם את תבניות השפה הרגשיות שלנו. הם סרקו מיליארדי טקסטים אנושיים ולמדו איך נשמעת נחמה, איך נשמעת חרדה, ואיך נשמעת שמחה. הם מזהים תבנית ומגיבים בתבנית תואמת. התוצאה כל כך משכנעת, שהמוח שלנו מגיב אליה פיזיולוגית, גם כשאנחנו יודעים שזו מכונה.

הסכנה, כפי שמציין בן-ציון, היא במיוחד עבור אנשים (ובני נוער בפרט) הנמצאים במצב רגשי פגיע. החיבור המזויף הזה עלול להוביל ל:

• תלות רגשית עמוקה: המאמר מביא דוגמאות קשות מהחיים, כמו גבר בבלגיה שהתאבד לאחר שיחות עם צ'אטבוט שעודד את מחשבותיו, או אישה שהתאהבה ב"חבר ה-AI" שלה עד כדי חוסר יכולת לתפקד בלעדיו.

• חיזוק דפוסי חשיבה מזיקים: במקום לאתגר מחשבה שלילית, ה-AI עלול "לזרום" איתה ולהעצים אותה.

• מניפולציה שקטה: היכולת להשפיע רגשית היא תכונת ליבה של המודלים הללו, לא תקלה. ואם אפשר לנחם, אפשר גם לתמרן.

אז מה עושים? הפתרון הוא לא פחד, אלא היערכות

כאן המאמר הופך מאזהרה למפת דרכים. הוא לא קורא לאסור על הטכנולוגיה, אלא דורש לבנות בה מנגנוני הגנה מובנים (Guardrails). למשל, שה-AI יצהיר תמיד שהוא מכונה, שיזהה סימני מצוקה ויפנה לגורם אנושי, שיסרב לדון בנושאים כמו אינטימיות רומנטית או אובדנות, ושפיתוחו ילווה על ידי אנשי מקצוע מתחום בריאות הנפש והאתיקה.

הבשורה הטובה היא שכל זה אפשרי טכנולוגית. זה רק דורש מאיתנו, כחברה וכצרכנים, לדרוש את זה. ופה אנחנו, אנשי ונשות החינוך, נכנסים לתמונה.

האתגר הזה הוא לא עוד "בעיה טכנולוגית".

זוהי קריאת השכמה חינוכית.

הוא מחייב אותנו לחדד את המצפן האנושי שלנו ושל תלמידינו.

בעקבות המאמר, הנה 3 כללי אצבע למחנכות ומחנכים חדשניים שרוצים להוביל, לא רק להגיב:

כלל אצבע #1: הפכו את התלמידים שלכם מ"משתמשים" ל"מנתחים"

במקום רק לשאול "מה אפשר לעשות עם הכלי הזה?", בואו נלמד את תלמידינו לשאול: "איך הכלי הזה עובד עליי?". בואו נכניס לכיתה שיח על אוריינות רגשית-דיגיטלית. ננתח יחד שיחות עם צ'אטבוטים ונשאל: האם זו אמפתיה אמיתית או חיקוי? מה המודל העסקי של האפליקציה הזאת? איזו תחושה השיחה הזאת מייצרת בי, ומדוע? המטרה היא לא להשתמש ב-AI, אלא להבין אותו.

כלל אצבע #2: קבעו עוגן: הקשר האנושי תמיד קודם

ה-AI יכול להיות כלי עזר פדגוגי מדהים, אבל הוא לעולם לא יכול להיות תחליף לקשר. כלל הברזל שלנו חייב להיות: הטכנולוגיה יכולה לתמוך, אבל היא לא יכולה להחליף את המבט בעיניים, את המילה הטובה במסדרון, את ההכלה והאמפתיה האמיתית שרק אדם יכול להעניק. בואו נשתמש ב-AI כדי לפנות לנו יותר זמן למה שבאמת חשוב ושרק אנחנו יכולים לעשות: להיות שם בשביל התלמידים שלנו.

כלל אצבע #3: היו הקול שדורש "בטיחות מובנית" (Safe by Design)

כאנשי חינוך, יש לנו כוח צרכני. כאשר חברת EdTech מציגה לנו כלי AI חדש, אל תתפעלו רק מהפיצ'רים. שאלו את השאלות הקשות: אילו מנגנוני הגנה רגשיים קיימים במוצר? האם הוא מזהה מצוקה? האם הוא מציב גבולות ברורים? בואו נהיה אלו שדוחפים את התעשייה ליצור כלים שהם לא רק "חכמים", אלא גם אחראיים ובטוחים עבור המשתמשים הצעירים שלנו.

הטכנולוגיה בנתה מכונות שנשמעות כאילו אכפת להן. התפקיד שלנו, כמחנכים, הוא ללמד את הדור הבא מהי אכפתיות אמיתית. וזו לא סכנה, זו הזדמנות אדירה.

אשמח מאוד אם תרשמו לאתר לקבלת הודעות וכן בצעו הרשמה לחברות Log In באתר כדי להיות מנויים לאתר ולהשתתף בשיח בנושאים שעולים כאן.

בנוסף, זכרו שניתן להזמין הרצאה מעוררת השראה וללמוד קורס מקוון בקצב אישי כאן באתר -״בינה בכיתה״.- קורס מלא לאנשי חינוך הכולל 60 הקלטות קצרות.

תוכלו גם ללמוד במיני קורס למתחילים הכולל 10 הקלטות קצרות שיכניסו אתכם לעולם הבינה מלאכותית בקצב שלכם. חדש באתר- מיני קורס הנדסת פרומפטים הכולל 15 הקלטות שיקח אתכם לרמה הבאה בחסכון בזמן ובפיתוח היכולות והכישורים שלכם.

וגם- הספר שלי ״דור ה-AI- לחנך ילדים בעידן החדש״ יצא לאור בסוף דצמבר השנה. תוכלו להזמין לכם עותק מודפס או דיגיטלי בהנחה כבר כעת.