דיגיטל וטק

גוגל מכריזה על כלי שיוכל לזהות תמונות שנוצרו ב-AI

אם חששתם שהעולם הולך ליפול תחת מתקפת פייק תמונות וסרטונים, אז גוגל מכריזה כי לפחות כלי אחד יעזור לכם במלחמה נגד הזיופים. כך הוא יעבוד

מערכת ice | 1/9/2023 10:46 1

בנימין נתניהו בבינה מלאכותית (צילום ideogram.ai)

בזמן שכלי הבינה המלאכותית (AI) מסוגלים ליצור תמונות מציאותיות יותר ויותר, גוגל פיתחה כלי חדש בשם SynthID שיכול לסייע בזיהוי תמונות ויצירות אמנות שנוצרו על ידי מחשב.

הכלי מטמיע סימני מים דיגיטליים בלתי מורגשים בתמונות שנוצרו על ידי AI, ומאפשר לזהות אותם גם לאחר שינויים כמו חיתוך או שינויי צבע. הכלי ייעזר ב-Imagen, מודל חדש של טקסט לתמונה של גוגל.

התוכנה אמנם זמינה בינתיים למשתשי Vertex AI של Google Cloud, אך התפתחות טכנולוגיה זו מהווה צעד משמעותי לקראת יכולת שהעולם בהחלט יצטרך כדי להתמודד עם תמונות פייק שיצאו בכמויות.

הפייק המוצלח ביותר כנראה יצא מוקדם יותר השנה, והיא תמונה שנוצרה ב-AI שהציגה את האפיפיור פרנציסקוס לובש מעיל יוקרתי ונפוח של מותג יוקרה, מה שהפך לוויראלי ועורר תגובות ברשת בקרב גולשים שלא שמו לב כי מדובר בתמונה מזויפת.

My campaign platform includes a Pope Coat for every American pic.twitter.com/U21aQ5Ok5b
— ndweiss - ND - Diabolical Jezebel (@11tulips) March 25, 2023

איך זה עובד?
שלא כמו סימני מים גלויים הנפוצים כיום, סימן המים הדיגיטלי של SynthID יהיה שזור ישירות בנתוני הפיקסלים. הכלי משתמש בשני מודלים של בינה מלאכותית שהוכשרו יחד - אחד להוספת סימני המים הבלתי מורגשים ואחר לזיהוי שלהם.

גוגל עשתה אופטימיזציה של מודלים אלה כדי להטמיע סימני מים המתיישרים עם תוכן התמונה המקורי, תוך שמירה על איכות ויזואלית תוך הפעלת זיהוי. בבדיקות פנימיות, SynthID זיהה במדויק תמונות שנוצרו בינה מלאכותית לאחר עריכה עמוקה. הוא מספק שלוש רמות ביטחון כדי לציין את הסבירות שתמונה מכילה את סימן המים SynthID.

עוד ב-

האם ניטשה חזה את התפתחות הבינה המלאכותית?

לכתבה המלאה

גוגל לא מבטיחה אי-טעות נגד מניפולציות קיצוניות של תמונות. הכלי צפוי להתפתח לצד דגמי AI אחרים, ולהרחיב את יכולותיו מעבר לזיהוי תמונה לאודיו, וידאו וטקסט.

הכתבות החמות

התקיפה בתימן, צילום: freepik, shutterstock, מסך כאן 11

תגובתך התקבלה ותפורסם בכפוף למדיניות המערכת.
תודה.
לתגובה חדשה

תגובתך לא נשלחה בשל בעיית תקשורת, אנא נסה שנית.
חזור לתגובה

1.

לא באמת רלוונטי..

ליאור 09/2023/03

הגב לתגובה זו

0 0

זה אומר שהתמונה תצטרך להיות מיוצרת על ידי AI של גוגל ומה הסיכוי שמי שירצה לזייף יבחר דווקא בה?
סגור