מורים ומרצים ברחבי מערכת החינוך האמריקנית מבוהלים מול ניצני מהפכת הבינה מלאכותית, שעלולה לאפשר מעשי רמאות מצד תלמידיהם בקנה מידה בלתי נתפס. המקור לצרה הוא ChatGPT, בוט שנפתח לציבור לפני כמה שבועות ומאפשר למשתמשים לשאול שאלות ולקבל תשובות מנוסחות היטב שגם נראות אנושיות להחריד.

כמעט מיד החלו אנשי חינוך להתנסות בכלי. התשובות של הבוט לשאלות אקדמיות אינן מושלמות, אך הן קרובות מאוד למה שמורים מצפים לקרוא ממרבית התלמידים שלהם. כמה זמן יעבור, תוהים מחנכים, עד שתלמידים יתחילו להשתמש באתר כדי לכתוב חיבורים ושיעורי בית?

• התפרצות הקורונה בסין מעלה את הסיכון למוטציה חדשה בנגיף


• אפשר להירגע: אף בינה מלאכותית לא הולכת לקחת את העבודה שלכם בקרוב

מארה קורי, מורה לאנגלית בתיכון איירונדייל במינסוטה, דנה בעניין עם תלמידיה כדי שיוכלו להבין כיצד השימוש בכלי עלול לעכב את הלמידה שלהם. "חלקם היו המומים מכך שידעתי מה זה", סיפרה. היא לא דאגה מכך שהשיחה עלולה לשתול רעיונות רעים בראשיהם: "זו שטות לקוות שבני נוער לא ישימו לב לכלי חדש שיכול לחסוך להם זמן ועבודה".

ימים לאחר שהושק, יותר ממיליון משתמשים כבר ניסו את ChatGPT. חלקם שאלו שאלות תמימות, כמו איך להסביר לילד בן שש שסנטה קלאוס אינו אמיתי. שאלות אחרות דרשו תשובות מורכבות, כמו גימור של קוד תוכנה מסובך. עבור חלק מהתלמידים, הפיתוי ברור ועצום. תלמיד י"ב בבית ספר במערב התיכון, שהתראיין בעילום שם מחשש לעונש, אומר שכבר השתמש במחולל הטקסט פעמיים כדי לרמות בשיעורי הבית שלו. הוא קיבל את הרעיון לאחר שראה אנשים מסבירים בטוויטר על עוצמתו של מחולל המילים, שנפתח לציבור הרחב ב־30 בנובמבר.

הוא קרא את טופס המבחן הביתי במדעי המחשב שביקש ממנו להגדיר מונחים מסוימים, ואז הכניס אותם לתיבת השאלה ב־ChatGPT. כמעט מיד, ההגדרות נפלטו. הוא העתיק אותן בכתב יד לטופס התשובה והגיש את המטלה. באותו היום הוא השתמש במחולל כדי לעזור לו לכתוב קטע קוד לשאלת שיעורי בית באותו הנושא. לא היה לו מושג מה לענות, אבל ChatGPT ידע היטב. הוא פלט מחרוזת קוד שעבדה באופן מושלם. אחרי זה, הוא כבר היה מכור.

התלמיד מתכנן להשתמש ב־ChatGPT כדי לרמות במבחנים במקום עזרים אחרים שהשתמש בהם בעבר. הוא לא חושש שייתפס, לדבריו, כי הוא לא חושב שהמורה ישים לב שהתשובות שלו נוצרו במחשב. הוא גם לא מתחרט: "מורים צריכים לשאול שאלות טובות יותר. תשתמשו בכלי הזה לטובתכם… אבל אל תנסו לעבור שנה שלמה רק על סמך התשובות האלה".

את הבוט פיתחה OpenAI, מעבדת בינה מלאכותית שהוקמה לפני כמה שנים במימון אילון מאסק ואחרים. הוא מופעל באמצעות "מודל שפה גדול", תוכנת בינה מלאכותית שמאומנת לחזות את המילה הבאה במשפט בעזרת ניתוח כמויות אדירות של טקסטים ברשת ומציאת דפוסים נכונים דרך ניסוי וטעייה. ChatGPT שוכלל כדי להפוך את התשובות שלו לאנושיות יותר, ורבים ציינו את יכולתו לנסח פסקאות בעלות אופי הומוריסטי ואפילו פילוסופי. ובכל זאת, לפעמים התשובות שלו שגויות או בעלות תכנים פוגעניים. אחד המשתמשים הצליח לגרום לו לכתוב שיר ראפ שכלל את המשפט: "אם אתה רואה אישה בחלוק מדען, היא כנראה שם כדי לשטוף רצפה". היוצרים מכירים בכך ש־ChatGPT אינו מושלם ועלול להחזיר תשובות מטעות.

אנשי חינוך מניחים שעם הזמן הכלי ישתפר והידע עליו בקרב התלמידים יגדל. יש שאומרים שהמורים יתאימו את הבחינות כדי לקחת בחשבון אפשרות של רמאות. לדוגמה, הם ידרשו מהתלמידים לכתוב עבודות בכתב יד במהלך השיעור, כך שיוכלו לפקח עליהם. אחרים שוקלים כיצד לכתוב שאלות שדורשות חשיבה מעמיקה יותר, ויאתגרו את הבוט.

ההשלכות אדירות. מורים רבים מסכימים שלימוד כתיבה יכול להתקיים רק כשהתלמידים מתחבטים ברעיונות ואז הופכים אותם למשפטים. תלמידים מתחילים בלי לדעת מה הם רוצים להגיד, ובזמן שהם כותבים הרעיון הולך ומתבהר. "תהליך הכתיבה משנה את הידע שלנו", אומר ג'ושוע וילסון, מרצה בבית הספר לחינוך של אוניברסיטת דלאוור. "זה ילך לאיבוד לחלוטין אם כל מה שתעשה הוא לקפוץ לתוצר הסופי". באוניברסיטאות הדיונים בנושא סוערים, הוא מוסיף, אך למורים רבים בתיכונים אין שמץ של מושג מה קורה: "המורים הממוצעים בבתי ספר יסודיים ותיכוניים רק מנסים לשרוד עד חלוקת תעודות סוף השנה. זה בהחלט גל שעומד להכות בהם".

https://www.makorrishon.co.il/wp-content/uploads/2022/12/DALL·E-2022-12-21-05.26.32-caricature-of-blue-collar-worker-leaving-the-factory-while-a-robot-take-his-place-150x150.png 150w, https://www.makorrishon.co.il/wp-content/uploads/2022/12/DALL·E-2022-12-21-05.26.32-caricature-of-blue-collar-worker-leaving-the-factory-while-a-robot-take-his-place-75x75.png 75w, https://www.makorrishon.co.il/wp-content/uploads/2022/12/DALL·E-2022-12-21-05.26.32-caricature-of-blue-collar-worker-leaving-the-factory-while-a-robot-take-his-place-750x750.png 750w, https://www.makorrishon.co.il/wp-content/uploads/2022/12/DALL·E-2022-12-21-05.26.32-caricature-of-blue-collar-worker-leaving-the-factory-while-a-robot-take-his-place-90x90.png 90w" sizes="(max-width: 960px) 100vw, 960px" />

דייוויד ק' תומסון, מרצה להיסטוריה באוניברסיטת סייקרד הארט בקונטיקט, אומר שראשי המחלקות באוניברסיטה כבר דנו בשאלת ההתמודדות עם הבינה המלאכותית, וחברי הסגל יודעים שהם חייבים למצוא דרכים להתמודד איתה.

דרך ניסויים באתר הוא הבין שהבוט מסתדר היטב עם שאלות עובדתיות – למשל, שאלה שביקשה מתלמידים להשוות מבחינה כלכלית ומבחינות אחרות את התפתחות המושבות הצפוניות והדרומיות של אמריקה לפני מלחמת העצמאות. "זה לא היה מושלם", אומר תומסון, "אבל גם סטודנטים בקולג' אינם מושלמים". אבל כשהוא שאל את הבוט שאלה מתוחכמת יותר, כמו איך פעיל שחרור העבדים פרדריק דאגלס הציג את הטיעונים שלו נגד מוסד העבדות, התגובה הייתה קוהרנטית הרבה פחות. לדבריו, מרצים יצטרכו לבחון ולתת ציונים על נימוקים אנליטיים, ולא רק על עובדות שאפשר למצוא בקלות.

עם זאת, אחרים מזהים יתרונות בטכנולוגיה. לדברי ג'ושוע איילר, מרצה באוניברסיטת מיסיסיפי ומנהל המרכז למצוינות, הטכנולוגיה הזו עשויה לגרום למורים לחשוב לעומק על המטלות שהם מחלקים לתלמידים ולדבר עם התלמידים על הסיבה שחשוב ליצור עבודות מקוריות משלהם. "מחשבונים שינו את הדרך שבה אנחנו מלמדים מתמטיקה, וזהו 'רגע המחשבון' של הוראת הכתיבה", אומר איילר. "יש חשש גדול שתלמידים ישתמשו בכלים האלה כדי לרמות".

מייקל פלדשטיין, יועץ בתחום החינוך וכותב הבלוג e-Literate, אומר שיש סקרנות גם בקרב אנשי חינוך. לדבריו, מרצים בתחומים בעלי אוריינטציה מסחרית רואים בכתיבתה של בינה מלאכותית כלי שימושי. סטודנטים לשיווק יוכלו להשתמש בבוט כדי לכתוב חומר פרסומי בבית הספר וגם בעבודתם בעתיד; ואם זה עובד, מה רע בעצם? "בחברות לא אכפת אם התלמידים יהיו ההמינגוויי הבא. אם המטרה היא תקשורת, זה כלי נוסף כדי להשיג את המטרה", אומר פלדשטיין. הדבר החשוב ביותר, לדבריו, הוא שהכלי יהיה חלק מהלמידה, ולא במקום הלמידה.

בשעה שמחנכים תוהים כיצד לחיות עם הטכנולוגיה, חברות מסוימות חושבות על דרכים להביס אותה. Turnitin, חברה שיצרה תוכנה בשימוש נרחב לזיהוי העתקה, בוחנת כעת דרכים לזיהוי טקסטים שנוצרו בבינה מלאכותית. החיבורים האוטומטיים שונים מעבודות שכתבו סטודנטים, אומרים בחברה. התלמידים כותבים בקול ייחודי, שנעדר מהתוכן שיוצר ChatGPT. חיבורים שנכתבו בבינה מלאכותית נשמעים כמו אלו של "האדם הממוצע", אבל כל תלמיד נתון אינו "האדם הממוצע", כך שהחיבורים לא יישמעו כמוהו. אריק ואנג, סמנכ"ל בינה מלאכותית בחברה, אומר שהחיבורים של הבוט "נוטים להיות כתובים 'פרווה' מאוד".

ובכל זאת, יהיה קשה לזהות רמאים שמשתמשים בטכנולוגיה. סשה לוצ'יוני, מדענית מחקר בחברת ההזנק Hugging Face, שעוסקת בבינה מלאכותית, אומרת ש־OpenAI צריכה לאפשר לציבור לבחון את הקוד של ChatGPT, כי רק כך מדענים יוכלו לבנות כלים חזקים באמת ללכידת רמאים. "אנחנו עובדים עם קופסה שחורה", היא אומרת. "אם לא נשיג גישה לשכבות הללו, יהיה קשה ליצור כלי לזיהוי רמאות". חברת Hugging Face יצרה כלי זיהוי לבוט הקודם, GPT-2, אבל החברה לא יכולה לומר בוודאות עד כמה הוא יהיה מדויק לגבי הדור החדש שלו.

לדברי סקוט אהרונסון, חוקר אורח ב־OpenAI, החברה המפעילה את הבוט בוחנת דרכים שונות להילחם בשימוש לרעה, כולל שימוש בסימני מים המבדילים בין טקסט שיצר הבוט ובין טקסט בעולם האמיתי. "אנחנו עדיין מריצים ניסויים כדי לקבוע את הגישה הטובה ביותר או את שילוב הגישות הטוב ביותר", אומר אהרונסון.

ל־ChatGPT יש רעיונות משלו לגבי הפתרון. כשנשאל כיצד להתמודד עם רמאות, הבוט הציע כמה הצעות: לחנך את התלמידים על ההשלכות של רמאות, לערוך בחינות בהשגחה, להפוך שאלות למתחכמות יותר, ולתת לתלמידים תמיכה כדי שלא ירגישו צורך לרמות. "בסופו של דבר, חשוב להעביר לתלמידים את הציפיות שלך ליושרה אקדמית ולנקוט בצעדים למניעת רמאות", הסביר הבוט. "זה יכול לעזור ליצור תרבות של כנות ויושרה בכיתה".

The post מורים ומרצים חוששים: בינה מלאכותית משוכללת תוביל לרמאות ענפה appeared first on מקור ראשון.