הסיפור שחוקרים דיברו עליו – ומה שאפשר ללמוד ממנו

בחודש פברואר 2024 פרסם כתב העת המדעי עם ביקורת עמיתים Frontiers in Cell and Developmental Biology מחקר של ז׳יניו גואו (Xinyu Guo) שכלל תמונות שנוצרו על ידי AI ובהן איורים אנטומיים מגוחכים של חולדה עם איברי מין מופרזים ותוויות בטקסט חסר משמעות. התמונות נוצרו בכלי ה-AI ליצירת תמונות Midjourney וכללו טקסטים בלתי קריאים ואיורים צבעוניים וחסרי היגיון מדעי לחלוטין. היה נראה כי לא הכותב ולא שני מבקריו הסתכלו על התמונות כלל. חוקרים מיהרו לפרסם את הממצא ברשתות החברתיות ולתהות כיצד עבר המאמר ביקורת עמיתים? המאמר הוסר שלושה ימים בלבד לאחר פרסומו. חקירת Frontiers חשפה שאחד מהמבקרים אכן העלה חששות לגבי התמונות – אך המחברים לא הגיבו לדרישות לתיקון, ומנגנוני כתב העת כשלו בטיפול במחדל. המאמר נצפה 358,673 פעם ונשמר למעלה מ-24,000 פעם לפני הסרתו, כך שעשרות אלפי אנשים נחשפו לתוכן מדעי מומצא לחלוטין.

זהו אינו מקרה בודד, אלא תופעה גוברת שמאיימת על אמינות המחקר האקדמי, שבעידן ה-AI הפכה לקלה יותר לביצוע וקשה יותר לזיהוי.

מה אפשר ללמוד מכך, ואיך משתמשים ב-AI בצורה אחראית שמייצרת עבודה מוצקה ואמיתית?

תופעת ההזיה: כאשר AI בוטח בדברים שהוא המציא

לפני שמדברים על כתיבה אקדמית, חשוב להבין איזה פח יכול AI לטמון עבורכם אם לא עובדים איתו נכון.

הבעיה: ציטוטים ממחקרים שמעולם לא נכתבו

מודלי LLM כמו ChatGPT, Claude וגם Gemini עובדים על בסיס הסתברות: הם מנבאים מה הטקסט הבא צריך להיות. כשנשאלים על מחקרים, הם עלולים לייצר שמות מחברים, כותרות מאמרים, שמות כתבי עת ומספרי עמודים שנשמעים הגיוניים לחלוטין - אבל פשוט לא קיימים.

תופעה זו מכונה הזיה או Hallucination.

עד כמה זה נפוץ? המספרים מדאיגים מאוד: מחקר שפורסם ב-Journal of Medical Internet Research בדק את ChatGPT-3.5 בביצוע סקירות ספרות. 39-55% מהציטוטים שייצר היו מזויפים לחלוטין – מאמרים שמעולם לא נכתבו, עם פרטים שנשמעים אמינים.

ניתוח שערכה כתב העת Nature הצביע על כך שעשרות אלפי פרסומים מ-2025 עשויים לכלול מקורות שגויים שנוצרו על ידי AI.

מחקר שבחן כנס NeurIPS 2025 מהיוקרתיים בתחום הבינה המלאכותית, מצא ציטוטים מומצאים ב-53 מאמרים שעברו ביקורת עמיתים מקיפה – ועדיין לא נתפסו.

המקרים שזעזעו את העולם

עורכי דין שהגישו תקדימים שלא קיימו: ביולי 2025 קנס שופט פדרלי אמריקאי שני עורכי דין שהגישו כתב טענות שנכתב בעזרת AI ובו למעלה מ-24 ציטוטים שגויים. כל התקדימים שצוינו היו בדיונים – תיקים שלא התנהלו, בתי משפט שלא פסקו. מדובר באחד מ-206 תיקים מתועדים (נכון לאמצע 2025) שבהם עורכי דין ספגו סנקציות בגלל ציטוטים שהמציא AI.

במקרה אחר עיתונאית חוקרת מדע שפרסמה בכתב העת Science ניסתה לבדוק את רשימת הפרסומים שלה בעזרת ChatGPT. הכלי ציטט מאמר אחד שלה בצורה נכונה – ואז המציא ארבעה נוספים, עם כותרות מפורטות ותקצירים שלמים, שמעולם לא נכתבו. הכלי לא רק טעה – הוא המציא עולם מחקרי שלם שמעולם לא התקיים.

התופעה הזו היא כמו כדור שלג: כשאנשי אקדמיה מציטטים מקורות שהמציא AI, הם משלבים "מידע" שגוי בשיח האקדמי. אחרים עשויים לבנות על הציטוטים האלה, ולהפיץ את השגיאה הלאה – שוב, בתוספת ציטוטים מזויפים שייצר AI ייצר על בסיסם.

למה זה קורה – ולמה זה כל כך מסוכן

כדי להבין למה AI מג׳נרט ציטוטים מזויפים, צריך להבין בסיסית איך הוא עובד.

מודל LLM שפתי לא "יודע" דברים, אלא עובד באמצעות ניבוי. כשאתם שואלים "אילו מחקרים קיימים בנושא X?״ הוא לא פותח ספריית מאמרים ומחפש. הוא שואל את עצמו: "אם מישהו כתב על X, איזה שם כתב עת, איזה שם מחבר, ואיזו שנה ייצרו טקסט שנשמע הגיוני?" ואז הוא מייצר תשובה שנשמעת ממש משכנעת.

הסכנה הגדולה היא שהתשובות נשמעות מהימנות באופן מושלם. כותרות שמתאימות לתחום, שמות מחברים שנשמעים אמיתיים, שמות כתבי עת מוכרים. זה לא כמו טעות ניכרת – זה כמו עד שקרן שיודע בדיוק מה להגיד.

7 כללים לכתיבה אקדמית מוצקה בעזרת AI

זו השיטה שאנחנו מלמדים בקורס AI with YOU, שפותחה כדי לנצל את כל היכולות של AI תוך שמירה על יושרה אקדמית מלאה.

כלל 1: לעולם אל תבקשו מ-AI ציטוטים ומקורות "מהראש"

זהו הכלל הבסיסי ביותר, ורבים אינם יודעים אותו.

מה לא לבקש: ״מצא לי 10 מאמרים על השפעת AI על שוק העבודה."

מה לבקש במקום: אתרו מאמרים באמצעות כלים ייעודיים כמו Google Scholar, PubMed, Scopus, Consensus, Elicit או SciSpace - שמחפשים במסדי נתונים אמיתיים. לאחר שמצאתם מאמרים ממשיים, רק אז אפשר לבקש מ-AI לעזור לכם לסכם, לנתח ולחבר ביניהם.

הכלל המנחה: AI מנתח מקורות שאתם מביאים אליו. AI לא מוצא מקורות בשבילכם.

כלל 2: בדקו כל מקור לפני שאתם מציטטים אותו

אפילו אם AI ציטט מקור שנשמע מהימן לחלוטין – בדקו אותו ישירות לפני שמשלבים אותו בעבודה.

רשימת בדיקה מהירה:

• האם המאמר מופיע בחיפוש Google Scholar או Semantic Scholar?

• האם כתב העת קיים ומוכר?

• האם שם המחבר ושנת הפרסום תואמים?

• האם ניתן להגיע לטקסט המלא בפורמט PDF או DOI?

אם לא הצלחתם לאמת מקור – אל תצטטו אותו, בלי קשר לכמה הוא נשמע רלוונטי.

כלל 3: השתמשו ב-AI לניתוח מקורות שאתם מספקים, לא לאיתורם

כאן AI הוא כלי עוצמתי מאוד. כשאתם מעלים PDF של מאמר, מדביקים קטע טקסט, או מספקים תקציר, AI עובד על חומרים שאתם הבאתם ולא ממציא כלום.

שימושים מומלצים:

• "הנה תקציר מאמר X. עזור לי להבין מה המתודולוגיה שלו."

• "הנה שני מאמרים סותרים. מה ההבדל העיקרי בין עמדותיהם?"

• "עזור לי לנסח כיצד הממצאים של המאמר הזה תומכים בטיעון שאני בונה.״

הכלי NotebookLM של גוגל הוא דוגמה מצוינת לגישה הזו: הוא עובד אך ורק עם המסמכים שהעליתם, ומציין מאיפה כל פיסת מידע לקוחה.

כלל 4: היו ספקנים כלפי נתונים ומספרים

מספרים נשמעים אובייקטיביים. לכן הם מסוכנים במיוחד.

כאשר AI מספק לכם נתון כמו "45% מהסטודנטים X״ או "מחקר שמצא כי Y״ – עצרו ושאלו את עצמכם: מאיפה הגיע המספר הזה? אם הוא לא מגיע ממקור שאתם יכולים לאמת, אל תשתמשו בו.

ניסוי פשוט: בקשו מ-AI לצטט את המקור המדויק לנתון שסיפק. אם הוא נותן תשובה עמומה או מציין מקור שלא ניתן לאמת זוהי נורת אזהרה.

הכלל פשוט: אם לא ראיתם את הנתון בטקסט מקורי שאתם החזקתם בידיים, אל תציינו אותו בעבודה.

כלל 5: כתיבת הניתוח היא שלכם – לא של AI

הבעיה המרכזית בפרשת Frontiers לא הייתה רק איורים מזויפים. הייתה שם בעיה עמוקה יותר: העבודה לא נבדקה ואומתה כראוי. זה קרה כי מישהו החליט שהוא יודע איך התוצאה הסופית "צריכה" להיראות – ואז בנה את "המחקר" לאחור. זו הטעות הגדולה שניתן לעשות גם בעבודה סטודנטיאלית: לבקש מ-AI ״לפרש״ ממצאים בלי שהבנתם אותם קודם בעצמכם.

השיטה הנכונה: קראו את הנתונים, נתחו אותם, הגיעו למסקנות שלכם – ואז בקשו מ-AI לעזור לכם לנסח, לחדד, ולבדוק את הלוגיקה. הסדר הזה חשוב מאוד.

כלל 6: תעדו את תהליך העבודה שלכם

שקיפות היא לא רק כלל אתי – היא גם ההגנה הטובה ביותר שלכם.

מוסדות אקדמיים רבים בישראל עדיין מגבשים את מדיניות ה-AI שלהם. אבל בינתיים, סטודנטים שיכולים להצביע על תהליך ברור, עומדים על קרקע הרבה יותר יציבה: איזה כלי השתמשו, לאיזו מטרה, וכיצד אימתו את התוצאות.

מה כדאי לתעד:

• אילו כלי AI השתמשתם ולאיזו מטרה

• כיצד בדקתם מקורות

• היכן ה-AI עזר לניסוח ועריכה, ואיזה חלק בניתוח הוא שלכם

כלל 7: עמדו על הקוד האישי שלכם

הכלל האחרון הוא הפשוט מכולם, ואולי החשוב ביותר: שאלו את עצמכם את השאלה הבאה לפני כל שימוש ב-AI:

האם אני יכול להסביר כל מה שנמצא בעבודה שלי?

אם יש בעבודה ציטוט שלא קראתם, נתון שלא אימתתם, ניתוח שלא הבנתם – אתם בבעיה, לא רק אתית אלא גם מעשית: כשמנחה שואל אתכם שאלה בסמינר, אתם צריכים להיות מסוגלים לענות. העבודה הטובה ביותר שתגישו היא זו שאתם באמת גאים בה ויכולים לעמוד מאחוריה.

AI כשותף אמיתי, לא כקיצור דרך

הסיפור של Frontiers הוא קיצוני: רוב הסטודנטים לא מזייפים נתונים ואיורים. אבל הלקח שלו רלוונטי לכולם: כאשר AI מייצר תוכן שנשמע אמין, ואתם לא עוצרים לבדוק, אתם מסכנים את אמינות העבודה שלכם – גם בלי כוונה רעה.

השיטה שאנחנו מלמדים בקורס AI with YOU בנויה על עיקרון ברור: AI הוא שותף, לא סמכות. הוא עוזר לכם לחשוב, לנסח, לאמת ולשפר - אבל הידע, המקורות, הניתוח והמסקנות הם שלכם.

כשעובדים בצורה זו, לא רק שמרחיקים את עצמכם מהסכנות שתוארו כאן אתם גם יכולים לכתוב עבודה שאתם באמת יכולים לעמוד מאחוריה ולהתגאות בה.