קיבלתי הצעת עבודה בלינקדאין ולא רציתי להתעלם אלא להשיב בנימוס בשלילה. הגדרתי לקופיילוט, קרא את הצעתם, כעת דחה את ההצעה אך עשה זאת בצורה מנומסת. עשה יופי של עבודה! האם ביצע חיקוי למצבים דומים הנמצאים אצלו במאגרי המידע? אולי אך עשה זאת באנגלית רהוטה וברמה של מזכירה בכירה בעלת ניסיון של שנים רבות. הסיקו אתם את המסקנות.

? הטענה המרכזית נכונה חלקית – נכון, מודלים כמו צ'אט ג'י פי טי לא מבינים במובן האנושי. אין להם תודעה, רגשות או הבנה עמוקה של הקשר כמו שיש לבני אדם. הם בונים תגובות על סמך דפוסים סטטיסטיים. ? אבל זה לא אומר שזה "בלוף" – העובדה שהמודלים לא מבינים כמו בני אדם לא מבטלת את העובדה שהם מסוגלים לביצועים מרשימים מאוד. הם כן "מיישמים הבנה אפקטיבית" ברמה פונקציונלית – מספיק כדי לכתוב קוד, להסביר תיאוריה או לנהל שיחה מורכבת. זו לא תודעה, אבל זה כן כלי חזק מאוד. ? הביקורת חשובה – אבל מגזימה – להציג את כל התחום כהונאה או אשליה זה ליפול לביקורת פשטנית. יש כאן טכנולוגיה חזקה מאוד, שאנשים מייחסים לה תכונות אנושיות – לא בגלל "תרמית", אלא בגלל שהשפה האנושית עצמה מבלבלת. זו נטייה פסיכולוגית טבעית. ? איפה הסכנה האמיתית? לא בתודעה מזויפת, אלא ב־שימושים מזויפים – כשאנשים מחליפים חברים, מטפלים או שופטים בבינה מלאכותית בלי להבין את המגבלות, שם יש סיכון חברתי עמוק. לא בגלל שהמודל שקרן, אלא בגלל שאנחנו משליכים עליו דברים שהוא לא. ? המסקנה הריאלית – מודלים של בינה