מאז הופעת הבכורה של ChatGPT בנובמבר, הוא וצ'אטבוטים אחרים המופעלים על ידי בינה מלאכותית, מעסיקים את חוקרי ההתנהגות והפילוסופים. השאלה המרכזית המנקרת בראשם היא האם הבינה המלאכותית יכולה לשחזר באופן מלא את פעולות המוח האנושי.

בעוד צ'אט בוטים אינטליגנטיים עשויים להיות שימושיים לכתיבת קודים מאמרים ומתכונים, ייתכן שהטכנולוגיה לעולם לא תוכל לנהל את הדיונים המקוריים שהמוח האנושי מצטיין בהם, כך לפי ההוגה היהודי-אמריקאי נועם חומסקי, בין הבלשנים והפילוסופים העכשוויים המשפיעים ביותר.

"ה-ChatGPT של OpenAI, בארד של גוגל וסידני של מיקרוסופט הם פלאים של למידת מכונה", כתב חומסקי יחד עם הפרופסור לבלשנות איאן רוברטס והחוקר ג'פרי וואטומול במאמר שפורסם ב"ניו יורק טיימס" אתמול (רביעי). אבל בעוד חומסקי אומר ש-ChatGPT עוד רחוק מאוד מהאינטליגנציה האנושית.

חומסקי כתב שחוסר המוסריות והמחשבה הרציונלית של הבינה המלאכותית הופכים אותה לדוגמא ל"בנאליות של הרוע", כלומר אדישה למציאות ולאמת תוך שהוא פשוט חוזר על התנועות שנכתבו בתכנות שלה. מגבלה זו עשויה להוות מכשול בלתי עביר עבור הבינה המלאכותית לחקות את החשיבה האנושית.

"אנו יודעים ממדע הבלשנות ופילוסופיית הידע שהם שונים מאוד מהאופן שבו בני אדם חושבים ומשתמשים בשפה. ההבדלים הללו מציבים מגבלות משמעותיות על מה שתוכניות אלו יכולות לעשות", כתב חומסקי. הוא המשיך: "אכן, תוכניות כאלה תקועות בשלב טרום-אנושי או לא-אנושי של אבולוציה קוגניטיבית. אינטליגנציה אמיתית מתבטאת ביכולת לחשוב ולהביע דברים בלתי סבירים אך בעלי תובנות".

מפתחי הצ'אט-בוטים אמרו שטעויות הן חלק מתהליך הלמידה של הבינה המלאכותית, ושהטכנולוגיה תשתפר עם הזמן. אבל חוסר ההיגיון שלה עשוי להיות אבן הנגף הגדולה ביותר שלה. "הפגם העמוק ביותר שלהם הוא היעדר היכולת הקריטית ביותר של כל מודיעין", כתב חומסקי. "לומר לא רק מה המקרה, מה היה המקרה ומה יהיה המקרה - זה תיאור ותחזית - אלא גם מה לא המקרה, ומה יכול ומה לא יכול להיות. אלה מרכיבי ההסבר, הסימן של אינטליגנציה אמיתית".

היכולת לנמק על סמך מידע זמין ולהגיע למסקנות חדשות ובעלות תובנות היא סימן היכר של המוח האנושי, שחומסקי כתב שנועד "ליצור הסברים" ולא "להסיק מתאמים". "המוח האנושי הוא מערכת יעילה באופן מפתיע ואפילו אלגנטית שפועלת עם כמויות קטנות של מידע", כתב חומסקי.

"ChatGPT מציג משהו כמו הבנאליות של הרוע: פלגיאט ואדישות. הוא מסכם את הטיעונים המקובלים בספרות בסוג של השלמה אוטומטית, מסרב לנקוט עמדה בכל דבר, ובסופו של דבר מתגונן שהוא 'רק עוקב אחר פקודות', תוך העברת אחריות ליוצרים שלו", כתב חומסקי.

עוד ב-

"נפרדתי מחבר שלי בגלל chatGPT"

לכתבה המלאה

"בהיעדר יכולת לנמק מתוך עקרונות מוסריים, ChatGPT הוגבל באופן גס על ידי המתכנתים שלו מלתרום כל דבר חדש לדיונים שנויים במחלוקת - כלומר, חשובים. זה הקריב את היצירתיות למען סוג של מוסר".