Stay Connectedד”ר יובל דרור, מרצה, סופר וחוקר את הסוציולוגיה של הטכנולוגיה, לוקח אותך למסע שמפענח איך טכנולוגיה משפיעה על החברה, התרבות, והחיים עצמם.
בכל פרק הוא צולל לעומק תופעה אחרת ומשלב מחקר, היסטוריה וסיפורים אנושיים כדי להסביר איך הטכנולוגיה משפיעה עלינו כחברה וכפרטים.
לפודקאסטים נוספים בקרו ב״רשת עושים היסטוריה״ 🚀
בשני הפרקים הקודמים הצגתי שתי בעיות שמהן סובלות מערכות בינה מלאכותית. האחת היא בעיית ה"אני לא יודע" והשניה היא בעיית ה"אני יודע הכל". כעת, בפרק האחרון בטרילוגיה, נעסוק בבעיה השלישית, בעיית ההטיה שגורמת לכך שיש מערכות בינה מלאכותית שמעדיפות כיוון פוליטי או תרבותי מסוים כאשר הן נשאלות שאלה ואפילו כאשר הן מתבקשות לצייר תמונה. האם מערכות הבינה המלאכותית הן Woke? האם הן היו מצביעות למפלגות ליברליות?
כמו כל דבר אחר בתקופה שבה אנחנו חיים, גם ההטיה הזו הפכה לסוגיה במחלוקת, סוגיה נפיצה, סוגיה שהובילה לפיתוח מערכות בינה מלאכותית שמוטות לכיוון השני, לכיוון השמרני, הימני, ואפילו הניאו-נאצי, והתוצאה של כל זה היא מהומה.
קישורים:
התגובה של גוגל לבעיות של ג'מיני ביצירת תמונות
https://blog.google/products/gemini/gemini-image-generation-issue
מחקר: הנטיות הפוליטיות של מודלי השפה הגדולים
https://arxiv.org/pdf/2402.01789
ניאו-נאציים משתמשים בבינה מלאכותית
https://www.wired.com/story/neo-nazis-are-all-in-on-ai
המחקר של ארגון MEMRI
https://www.memri.org/dttm/neo-nazis-and-white-supremacists-globally-look-artificial-intelligence-promote-their-message-0
הפרק הקודם, "אני לא יודע", עסק בשאלה למה אנחנו לא יודעים מה קורה בתוך מערכות הבינה המלאכותית ומדוע הן מתקשות לומר שהן לא יודעות משהו כאשר הן לא יודעות משהו. בחלק השני של הטרילוגיה אקח אתכם לצד השני של הספקטרום: "אני יודע הכל".
כדי להבין מה קורה בצד הזה אספר את סיפורו של Recall, מוצר שמיקרוסופט רצתה להשיק ושתפקידו היה לדעת הכל ומשום כך הוא יכול לתת תשובה בנוגע לכל שאלה שקשורה לכל פעולה שעשיתם במחשב שלכם.
נשמע טוב אבל לא חלף חודש מאז שמיקרוסופט התגאתה במוצר יודע-הכל שלה עד שהיא גילתה שלידיעה מוחלטת, לזיכרון מוחלט, מתלוות לא מעט בעיות, בלשון המעטה.
קישורים:
תחקיר פרופבליקה
https://www.propublica.org/article/microsoft-solarwinds-golden-saml-data-breach-russian-hackers
מנכ"ל מיקרוסופט, סאטיה נדלה, בראיון מצולם ל"וול-סטריט ג'ורנל"
https://www.youtube.com/watch?v=uHEPBzYick0
הסקירה של קווין בימונט
https://doublepulsar.com/recall-stealing-everything-youve-ever-typed-or-viewed-on-your-own-windows-pc-is-now-possible-da3e12e9465e
ᐧ
אחת הבעיות הגדולות עם מערכות הבינה המלאכותית החדשות היא שקשה לסמוך עליהן ויש לכך שתי סיבות עיקריות: הראשונה היא שאנחנו לא יודעים למה הן פועלות בדרך שבה הן פועלות, למה הן נתנו לנו תשובה א' ולא תשובה ב' והשנייה היא שלא רק שאנחנו לא יודעים מה קורה בתוכן, לפעמים הן מנפיצות תשובות, ממציאות תשובות שאין בינן ובין המציאות שום קשר.
אבל למה זה קורה? למה אנחנו לא מבינים מה קורה בתוך המערכות האלו ולמה הבוטים מתקשים לומר "אני לא יודע"? ובכן אפילו על השאלות האלו קשה לענות ובכל זאת זה מה שאני אנסה לעשות: אנסה גם להסביר את בעיית "אני לא יודע" וגם אספר על התקדמות מעניינת באחת הגזרות, התקדמות ששופכת אור על האופן שבו המערכות האלו פועלות מה שאולי יאפשר לנו קצת יותר לסמוך עליהן. אולי.
קישורים:
אנת'רופיק מסבירה מה קורה בתוך המודל שלה
https://www.anthropic.com/research/mapping-mind-language-model
בעיית ההזיות: הסבר
https://masterofcode.com/blog/hallucinations-in-llms-what-you-need-to-know-before-integration
הבלוג של קובוס גריילינג
https://cobusgreyling.medium.com
ᐧ
קובלט היא המתכת שנמצאת בכמעט כל מכשיר אלקטרוני שבו אנחנו משתמשים – בין אם זה טלפון סלולרי, מחשב נייד או מכונית חשמלית. היא נמצאת במכשירים שלנו כיוון שברובם יש סוללות ליתיום, שבאופן פרדוקסלי יש בהן יותר קובלט מליתיום.
מתכת הקובלט, ובייחוד האופן שבו כורים אותה, עמדה במרכזה של תביעה ייצוגית שהוגשה בסוף שנת 2019 בארה"ב, נגד אפל, גוגל, מיקרוסופט, דל וטסלה. התביעה סיפרה סיפור שאנחנו, בישראל בפרט ובעולם המערבי בכלל, שומעים עליו רק לעתים רחוקות למרות שהוא מאוד שכיח, סיפור על אלימות, ניצול ועבדות.
הפרק שודר לראשונה בשנת 2020 אבל לפני כמה שבועות פורסם פסק הדין בתביעה הייצוגית הזו שהוגשה נגד כמה מחברות הטכנולוגיה הגדולות בעולם, ולכן החלטתי להקליט אותו מחדש, לעדכן אותו בנתונים חדשים ולספר מה עלה בגורלה של התביעה.
קישורים:
הדוח של אמנסטי אינטרנשיונל משנת 2016
https://www.amnesty.org/en/latest/news/2016/01/Child-labour-behind-smart-phone-and-electric-car-batteries/
החלטת בית המשפט לערעורים
https://www.reuters.com/legal/us-appeals-court-dismisses-child-labor-case-against-tech-companies-2024-03-05/
התחקיר של SkyNews
https://www.youtube.com/watch?v=JcJ8me22NVs
התחקיר של הגארדיאן
https://www.theguardian.com/global-development/2018/oct/12/phone-misery-children-congo-cobalt-mines-drc
הספר Cobalt Red
https://www.amazon.com/Cobalt-Red-Blood-Congo-Powers-ebook/dp/B09Y462D6Z
ᐧ
השבועות האחרונים בעולם הבינה המלאכותית היו די משוגעים ולרגע יש תחושה שהדברים מתקדמים במהירות כל כך גדולה עד שקשה לתפוס אותם. קייסי ניוטון, העורך של הניוזלטר Platformer ואחד המגישים של הפודקסט Hard Fork של "הניו-יורק טיימס", קורא לזה בשם "AI Vertigo". זה שם לא רע בגלל ש"וטריגו" מתאר מצב שבו למרות שאנחנו עומדים במקום ולמרות שהסביבה שלנו לא זזה, אנחנו מרגישים שכל מה שסביבנו נמצא בתנועה, שהכל מסתחרר במהירות.
אני בדרך כלל נמנע מלדווח על "החידושים האחרונים" אבל לפעמים יש הצטברות של כל כך הרבה חדשות שאין ברירה אלא לעצור לרגע על מנת לנסות ולעשות סדר.
החזיקו חזק, זה פרק שעושה סחרחורת.
קישורים:
הרובוטית סופיה נושאת את הנאום המרכזי בטקס הסיום
https://www.nytimes.com/2024/05/15/nyregion/dyouville-university-commencement-robot-speaker.html
למה הצוות שאחראי על הבטיחות ב-OpenAI התפרק
https://www.vox.com/future-perfect/2024/5/17/24158403/openai-resignations-ai-safety-ilya-sutskever-jan-leike-artificial-intelligence
סקרלט ג'והנסן כועסת על OpenAI
https://www.theverge.com/2024/5/20/24161253/scarlett-johansson-openai-altman-legal-action
בשנים האחרונות מתנהלת בין ארצות הברית לסין מלחמה קרה וב"עושים טכנולוגיה" סיקרנו כמה פנים שלה: הצבענו על החשש של ארה"ב מטיקטוק, סיפרנו על המאבק בין המעצמות סביב פיתוח שבבים וגם סביב הנחת כבלים תת-ימיים. בפרק הזה, הרביעי בסדרת "המלחמה הקרה החדשה", אנחנו עוסקים בטכנולוגיה שצפויה לפרוץ את כל ההצפנות שבהן כולנו משתמשים: מחשוב קוואנטי.
הדבר הזה, שרק מעטים מסוגלים להסביר אותו, ועוד יותר מעטים מסוגלים להבין אותו, מתקרב אלינו בצעדי ענק והוא מוביל למרוץ אדיר וחסר רחמים בין המעצמות, שמנסות להגיע ראשונות לקו היעד.
האם אכן כל ההצפנות יפרצו ועד כמה אנחנו קרובים לשם?
ספוילר: כמעט כל ההצפנות יפרצו ואנחנו ממש ממש קרובים.
קישורים:
סרטון: פרויקט וינונה
סרטון: איך מחשב קוואנטי יפרוץ הצפנות
המרוץ הקוואנטי בין ארה"ב לסין
ארה"ב וסין ממהרות להגן על הסודות שלהן
בשנים האחרונות יש מחשבה אחת, שאלה אחת שאליה אני חוזר פעם אחר פעם: מה קורה כאשר תרבות הופכת אובססיבית לרעיון, ובאופן יותר ספציפי, מה קרה לנו מהרגע שהפכנו אובססיביים למספרים?
אנחנו מודדים הכל, מדרגים הכל, רואים את העולם דרך העיניים של המספרים, אבל למה? למה החלטנו שזו הדרך הכי מוצלחת להבין את המציאות ומה קרה לאופן שבו אנחנו רואים את העולם ואפילו את עצמנו, מהרגע שהתחלנו להצמיד מספר לכמעט כל דבר?
בניסיון לענות על השאלות האלו ועל רבות נוספות, התייעצתי עם מומחים, קראתי מחקרים, ראיינתי אנשים והלכתי לאיבוד בעולמות תוכן שונים ומשונים: כלכלה, אסטרונומיה, צבא, פילנתרופיה, רפואה, פסיכולוגיה ואפילו שוק העבודה. זה היה מסע משוגע. את תוצאות המסע קיבצתי לסדרה אינטימית ואישית בת 11 פרקים שתעלה בפודקסט חדש ששמו "סערה מושלמת".
הפודקסט "סערה מושלמת" יושק בימים הקרובים ובפרק בונוס מיוחד אני מספק למאזיני "עושים טכנולוגיה" הצצה ראשונה.
חפשו את "סערה מושלמת" באפליקציית הפודקסטים שלכם ותקבלו עדכון ברגע שיועלו פרקי הסדרה.
"סערה מושלמת" ב-Apple Podcasts
https://podcasts.apple.com/podcast/id1742404005
"סערה מושלמת" בספוטיפיי
https://open.spotify.com/show/2IIVEx404ubtOF0CsQCjAd
"סערה מושלמת" - עמוד מתעדכן
https://www.popup.co.il/ps
שנה וחצי לאחר הופעת ChatGPT, נדמה שלכולם כבר ברור שאנחנו נמצאים בעיצומה של מהפכה טכנולוגית נרחבת. כעת נחשפת העובדה שכמו כל מהפכה, בין אם היא מהפכה תעשייתית ובין אם היא מהפכה של בינה מלאכותית, בין אם היא מבוססת על מכונות טקסטיל או על שרתים ומחשבים, גם למהפכה הזו יש השפעה נרחבת, ולעתים הרסנית, על הסביבה.
כשהתחלתי להתעניין בכיוון הזה חשבתי שעיקר הבעיה היא העובדה שחוות השרתים העצומות צורכות הרבה מאוד חשמל – והן אכן צורכות הרבה מאוד חשמל - אבל הן בעיקר צורכות משאב נוסף, שעליו ממש לא חשבתי: מים.
אז בכל פעם שאתם מבקשים מ-ChatGPT לעשות משהו, כמה מים הוא שותה?
קישורים:
מחקר: להפוך את הבינה המלאכותית לפחות צמאה
כמה מים צורכת בינה מלאכותית
הבינה המלאכותית לוקחת מים מהמדבר
משבר האנרגיה והמים באמריקה הלטינית
אירלנד וחוות שרתים
בחיי היומיום אנחנו משתמשים במטאפורות רבות שקשורות לעולם הטכנולוגיה אבל למה מכל המטאפורות רעיונות מיוצגים בצורה של נורה, נורה שנדלקת.
למה דווקא המטאפורה הזו תפסה ומה היא אומרת על האופן שבו אנחנו חושבים על יצירתיות או חדשנות? האם הנורה, הדרך שבו היא עובדת והאופן שבו היא באה לעולם, מתארת בצורה מדויקת או מוצלחת את האופן שבו רעיונות באים לעולם ומה היה קורה אם היינו משתמשים בטכנולוגיה אחרת כדי לתאר את התהליך הזה?
כדי לענות על השאלה הזו הייתי צריך לצלול לעולם האלקטרוניקה, הפילוסופיה, העסקים ואפילו לעולמם של הסרטים המצוירים ואז גיליתי שזה לא רק תרגיל מעניין, שמערב היסטוריה, טכנולוגיה ודמיון, זה גם תרגיל שיכול ללמד אותנו לקח חשוב על האירועים האלו שכל כך מעניינים אותנו, שאנחנו כל כך חושקים בהם, כמו הופעתו של רעיון מוצלח, כמו אותה יצירתיות מתפרצת שהנורה אמורה לייצג.
קישורים:
התמונה של אדיסון
https://bit.ly/3TDSkWg
סרטון: פליקס החתול והנורה החשמלית
https://www.youtube.com/watch?v=1HuKX7r1vpg
ההצלחה הגדולה של אלון מאסק, היא לא טוויטר ואפילו לא טסלה. מה שהופך את מאסק לדמות חשובה ומשפיעה היא SpaceX.
החל משנת 2006 מאסק וחברת החלל שלו זכו בשורה של מכרזים של נאס"א ושל הממשל האמריקאי, מכרזים שמטרתם לפתח חלליות מסוגים שונים וטילים מסוגים שונים. במסגרת הפעילות של החברה, SpaceX משגרת אינספור דברים לחלל, חלקם מתפוצצים על כן השיגור וחלקם מתפוצצים כאשר הם מנסים לחזור ולכן מאסק החל לחפש אתר ניסויים שיהיה בבעלותו. הפתרון שלו היה להשתלט על כפר קטן בטקסס ואז לנסות ולקנות אותו ואת תושביו.
המהלך האגרסיבי הזה הוא רק אחד בשורה של מהלכים שחלקם, כך נדמה, מבקשים להחיות קונספט שזכה לפופולריות במאה ה-19, קונספט של "עיירת חברה" שבו התאגיד לא רק מעסיק אותך, הוא גם בעל הבית שלך. אז מה אתם אומרים, הייתם רוצים שהאדם העשיר בעולם יהיה בעל הבית שלכם?
קישורים:
שיר: Sixteen Tons
התחקיר של "מאד'ר ג'ונס"
כתבה מצולמת: מאסק מנסה להשתלט על עיירה
וול-סטריט ג'ורנל: מאסק בונה עיירה בטקסס
הסרטון של צ'אפ אמברוז
Our TOPPODCAST Picks 
