שינוי קול בבינה מלאכותית – איך לזהות?
התפתחויות טכנולוגיות מביאות איתן הרבה מאד פלוסים לחיים שלנו, אך ככל שהן נעשות מתוחכמות יותר, כך גם גוברות הסכנות שמגיעות יחד איתם. מהפכת הבינה המלאכותית שמתרחשת ממש נגד עינינו בשנים האחרונות מאפשרת לנו לעשות הרבה מאד דברים, החל מיצירת טקסטים מקוריים, דרך עיצוב גרפיקות מדהימות בקליק אחד ועד ליצירת סרטונים מונפשים ברמה גבוהה, גם בלי ידע קודם בתחום. כל הדברים האלו הם נפלאים, אבל מה קורה במקרים בהם גורמים כאלו ואחרים מנצלים את הטכנולוגיה כדי לפגוע בנו, כמו למשל עם תוכנה לזיוף קול מבוססת AI?
מתברר שהטריק המעצבן הזה הוא היום הלחם והחמאה של האקרים למיניהם. אותם האקרים מנצלים את תמימותם של אנשים כדי להוציא מהם פרטי אשראי, לגנוב זהויות ולסחוט במרמה דברים שונים. בעידן שהולך ומסתמן כעידן של בינה המלאכותית, חשוב שכולנו נכיר את הדבר הזה, נבין בדיוק איך זה עובד ונלמד איך להתגונן.
זיוף קול באמצעות בינה מלאכותית
אז איך הדבר הזה בדיוק עובד? שינוי קול AI הוא למעשה שלוחה נוספת של הטכנולוגיה החדשנית המאפשרת לסנתז קולות לבחירתנו. כיום ניתן למצוא ברשת מגוון מרשים למדי של כלי של כלי AI המאפשרים זאת. בתוכנות הבסיסיות נוכל למצוא מאגר של קולות שממנו נוכל לבחור את הקול הרצוי וכך בעצם אפשר ליצור קטע אודיו עם כל טקסט שנבחר. בתוכנות המתקדמות יותר (כמו ElevenLabs AI), כבר אפשר למצוא פיצ׳רים הרבה יותר מעניינים ומסוכנים. במקום לבחור בקול גנרי מהמאגר, ניתן להזין כל קטע אודיו שנרצה עם הקול של כל אדם שנבחר. הבינה המלאכותית תדגום את הקול ותנתח אותו וכך נוכל להפיק קטעי אודיו עם הקול שבחרנו. ככל שניתן לתוכנה קטע אודיו ארוך ומפורט יותר, כך נקבל קול מדויק יותר. בנוסף, נוכל להגדיר רגשות וטון דיבור כמו פחד, התרגשות או כעס והנה לכם המניפולציה המושלמת.
תארו לכם מצב שבו האקר מצליח לפרוץ למכשיר טלפון של נער או נערה, ממנו הוא מוציא דגימה קולית ודרך הווטסאפ הוא שולח להורים שלו/ה הודעה קולית מבהילה בסגנון של ״אמא, הסתבכתי עם אנשים שאני חייב להם כסף, אני חייב שתעבירי לחשבון בנק X 10,000 שקל בתוך שלוש שעות או שהם הולכים לפגוע בי״.
אז ברור שלא כולם ייפלו לפח הזה, אבל מספיק שהורה מודאג ותמים אחד מתוך מאה כן ייפול בשביל לגרום נזק עצום להרבה מאד אנשים. ושלא תתבלבלו – הדברים האלו הם לא בגדר נבואה מפחידה, אלא ניסיונות עוקץ שקורים באופן נרחב למדי כבר היום. אז איך אפשר לזהות שיחות טלפון מזויפות וקולות שנוצרו באמצעות בינה מלאכותית? בואו ננסה להבין.
איך ניתן לזהות קול מזויף בטלפון?
כדי להתגונן מפני ניסיונות עוקץ מהסוג הזה, חשוב לפעול בשלושה מישורים שונים:
להכיר את התופעה:
ברגע שאתם יודעים שהדבר הזה קיים, אתם כבר נמצאים בסיכון מופחת. בפעם הבאה שתקבלו שיחה לא שגרתית עם קול מוכר בצד השני זה ידליק לכם אוטומטית נורה אדומה.
הקשבה וניסיון לזהות את הקול:
קיבלתם שיחת טלפון או הודעה קולית עם קול שאתם מכירים ותוכן מוזר (למשל – אני חייב כסף ומהר)? נסו להקשיב היטב לקול. זה נכון שאפשר להגיע לתוצאות די מדהימות, אבל עם שינוי קול AI אפשר לזהות הרבה פעמים גליצ׳ים כמו טון מוזר ולא רגיל, או נקודות קטנות בשיחה בהן הקול נשמע שונה לגמרי.
ניתוק השיחה
נתקו את השיחה וצרו קשר בדרך אחרת עם מי שחייג: אם הילד שלכם מתקשר אליכם במצוקה ומבקש כסף, נתקו את השיחה ונסו ליצור איתו קשר בדרכים אחרות (לרוב השיחה תהיה ממספר לא מוכר). אם התקשרו אליכם מהבנק לכאורה, נתקו את השיחה וחייגו לבנק דרך הטלפון הרגיל.
חשיבות לימוד אבטחת מידע בעידן הבינה המלאכותית
שינוי קול באמצעות בינה מלאכותית הוא רק דוגמה אחת שממחישה איך הכלי המטורף הזה יכול לפגוע בהרבה אנשים כשהוא מגיע לידיים הלא נכונות. היום יותר מתמיד, אבטחת סייבר איכותית היא מצרך נדרש כשהענף ההייטק בפרט ושוק העבודה באופן כללי צמאים למומחי אבטחה מקצועיים שמכירים לעומק את אתגרי האבטחה בעידן הבינה המלאכותית. מומחי סייבר היום צריכים להכיר לעומק לא רק את האתגרים הרגילים כמו תוכנות זדוניות, פריצות, וירוסים ופישינג, אלא גם את הכלים המתקדמים של AI שמאפשרים לנוכלים לצוד את הטרף שלהם במסות ובתחכום שטרם ראינו כמותו. בעידן שלנו, כדי להתמודד עם איומי אבטחת מידע על בסיס AI, חשוב מאד גם להכיר את הכלי הזה לעומק ולדעת להילחם בהם דרך אותן מתודות וכלים.
אם גם אתם עוסקים באבטחת מידע בעבודה שלכם, מתעניינים בבינה מלאכותית וסייבר, עובדים בענף הטכנולוגיה ורוצים להגדיל את סל הכלים שלכם – כאן אצלנו תוכלו לקבל את כל הידע והכלים לאבטחת סייבר בעידן ה-AI. רוצים לדעת עוד? צרו קשר וצוות החממה ישמח לענות על כל שאלה.
לעוד כתבות
