בפרק הזה ארחנו את נירית כהן, מומחית לעתיד העבודה, ודיברנו על אחת השאלות הבוערות של העידן שלנו: מה זה בכלל "קריירה" כשידע מתיישן כל 5–7 שנים, תפקידים משתנים בקצב מפחיד, והגבול בין חיים לעבודה כמעט נעלם. דיברנו על: למה המודל הישן של "למד מקצוע, תישאר בחברה, תצא לפנסיה" כבר לא עובד. למה הביטחון התעסוקתי האמיתי היום הוא לא תפקיד – אלא היכולת להישאר רלוונטיים. איך נראית קריירה כשמנהלים כמה כיוונים מקצועיים במקביל (ולא רק מסלול אחד ישר). למה יותר ויותר אנשים משלבים שכירות עם עצמאות, ובוחרים לעבוד בתנאים שלהם. איך AI לא רק משנה מקצועות – אלא מכריח אותנו לחזור למה שהכי אנושי בנו. ומה אנחנו מלמדים (או לא מלמדים) את הילדים לעולם הזה. פרק מיוחד על עבודה, אבל גם על החיים: איך אנחנו רוצים לחיות, ללמוד, ולהישאר משמעותיים לאורך זמן. לינקים נוספים: האתר:  https://niritcohen.com/הניוזלטר: https://niritcohen.com/newsletter-signup/הפודקאסט: https://workfutures.niritcohen.com/podcast/    

פותחים את עונה 4 עם סיפור קוד-פתוח משולב בינה מלאכותית בפרק זה אירחנו את יניר מרמור ממכון וויצמן, ממקימי פרויקט “עברית AI” — יוזמה קהילתית לשיפור תמלול דיבור בעברית. דיברנו על איסוף הדאטה הקהילתי, היבטי זכויות יוצרים ואיך הם התמודדו עם הבעיה, בניית דאטה-סטים וגם על האפליקציות הפתוחות (ווב ובוט וואטסאפ) שכבר מתמללות עשרות אלפי שעות בחודש — לצד אתגרי פרטיות ותוכניות להמשך (סטרימינג, דומיינים רפואיים/משפטיים ועוד).קישורים: קבוצת וואצפ לעדכונים בפרויקט:  https://chat.whatsapp.com/CcwpHSezjbQCRvUGuubtkN   קבוצת הוואטסאפ לדיונים טכניים יותר:  https://chat.whatsapp.com/Bpf5DsndFwh9C3Rclk2Oul   האתר של הפרויקט: https://www.ivrit.ai/   המספר של אליעזר הבוט המתמלל: 055-957-1223   הממשק שבו אפשר להעלות הקלטות ולקבל תמלול זריז ואיכותי:  Transcribe.ivrit.ai    ערוץ היוטיוב להסברים נוספים על תמלול איכותי בכמויות:  https://youtube.com/@ivrit-ai-l2g?si=9imTFwn8Po_OMmaV   ממשק הקלטת חומר אימון למודל:  https://recital.ivrit.ai/   פטראון לתמיכה סמלית במאמץ: https://www.patreon.com/ivrit_ai או פייבוקס: https://links.payboxapp.com/QzVhOJJAzVb    לטכנולוגיים ולטכנולוגיות שבינינו: כל הקוד שלנו בגיטהאב: https://github.com/ivrit-ai כל המודלים והדאטהסטים בהאגינגפייס: https://huggingface.co/ivrit-ai   מייל לתלונות והצעות 🙃:  info@ivrit.ai yair@ivrit.ai  yoad@ivrit.ai

בפרק הסיום שלנו אנו שוברים את המיתוס שמודלים חייבים להיות מפלצות GPU. פרופ’ ניר שביט, מייסד-שותף של Neural Magic וכיום ברד האט, חושף כיצד Sparsity ו-Quantization מצמצמים את משקל המודל, חוסכים בזיכרון ובכסף – ומשאירים את הביצועים בשיא.ניר מסביר למה vLLM הוא ה”לינוקס” של עולם ה-LLM: שכבת אינפרנס פתוחה שמסתירה את כאב-הראש של חומרה משתנה ומנהלת זיכרון, תזמון ומשאבים על פני כמה GPUs, תוך תחרות צמודה מול TensorRT והפתרונות הסגורים.בהמשך, אנחנו מדברים על העתיד: האם נגיע ל-AGI דרך מודל אחד ענקי, או דווקא בזכות אקו-סיסטם של “מיקסטר אוף אקספרטס” – הרבה מודלים קטנים וממוקדים שכל אחד מצטיין בתחומו? ניר טוען שהכול עניין סטטיסטי, ושמה שחסר לנו הוא בעיקר עוד דאטה משוכלל, לא מודעות עצמית.סיום עונה שמוכיח שאפשר לעשות יותר עם פחות – ושהמרוץ אחר מודלים יעילים רק מתחיל.

בפרק סיום לעונה זו אנחנו צוללים לעולם שבו הביולוגיה והבינה המלאכותית נפגשות. אירחנו את פרופ' ניר שביט, ממייסדי Neural Magic וחוקר בעל שם בתחום מדעי המחשב, לשיחה על הקשר העמוק בין המבנה של המוח האנושי לבין הדרך שבה אנו מפתחים מערכות בינה מלאכותית.שוחחנו על מושגי יסוד בעולם הבינה המלאכותית  שוחחנו על המושג Sparsity—איך המוח יודע לעבוד בצורה חסכונית ויעילה, ואיך הרעיון הזה הופך למפתח בהאצת מודלים של למידת מכונה. הבנו למה רשתות נוירונים קלאסיות שונות מאוד מהמוח שלנו, ואיך אפשר לבנות מודלים יעילים יותר בהשראת מבנים מוחיים. דיברנו גם על הסיפור של Neural Magic—איך נולדה חברה שמצליחה להריץ מודלים של בינה מלאכותית על מעבדים רגילים (CPU) במקום על כרטיסי GPU יקרים, ואיך זה משנה את חוקי המשחק בתחום. פרק שמחבר מדע, טכנולוגיה והשראה לעתיד של הבינה המלאכותית.

בפרק שוחחנו עם אסף מ-IBM Research, ממובילי מודל Granite. הסברנו מהו מודל פתוח: ארכיטקטורה, קוד אימון, משקולות ונתונים, ולמה ברוב המקרים רק שני החלקים הראשונים זמינים. דיברנו על רישיונות שונים, מ-MIT החופשי ועד Llama-License המחייב לשמור את השם. הסברנו שהכסף עבר מאימון יחיד ויקר לאינפרנס מתמשך, ולכן ענקיות בונות חוות GPU ומציעות תשתיות כמו Watsonx, VLLM ו-MCP. ראינו כיצד קהילה יכולה לתרום קוד ו-synthetic data בעזרת InstructLab ולמה תשתיות פתוחות כגון LangChain חשובות. לבסוף נגעו באתגרים: Tool-Calling, פרטיות, פרסומות ממוקדות והצורך הארגוני להריץ מודלים מקומיים. הפרק מדגיש את קצב ההתקדמות המסחרר ומעודד מהנדסים ללמוד לשאול שאלות נכונות ולשמור על גמישות.

בפרק הזה אילן “שם על האש” את ג’וש לשיחה מעמיקה על MCP – Model Components Protocol, ה־באזז החם שמחבר מודלי LLM לעולם האמיתי. השניים עוברים מהיסטוריית החודשיים הסוערת של הפרוטוקול ועד הדילמות שמטרידות כל צוות Dev ואנשי SecOps: מה זה MCP ולמה הוא מהפכני? איך קהילת המפתחים הגיבה לכלי החדש?   מה הם אתגרי העומדים בפני אנטרפרייז שרוצים לאמץ את הטכנולוגיה   מדוע יש יותר  חשיפה לסיכוני “מודלים סוררים”  ולסיום איזה הזדמנוית נוצרה  למפתחים השורה התחתונה: במציאות שבה טרנדים מתחלפים במהירות, היכולת ללמוד ולהסתגל היא הסקיל הכי חם. MCP הוא דוגמה חיה לכך – והוא כבר משנה את הדרך שבה אנחנו מפתחים ומאבטחים מערכות מבוססות AI. לינקים לפרק- https://arxiv.org/abs/2504.08623 - https://x.com/liadyosef/status/1908848071351378007 

בפרק הזה של „מדברים פתוח” אירחנו את ד״ר רועי צזנה – עתידן, חוקר מגמות ומחבר „המדריך לעתיד” – לשיחה סוערת על העתיד שמתרחש ממש עכשיו. למה קצב הפיתוח בבינה מלאכותית מרגיש כמו „לוח שח‑מט אקספוננציאלי” ולמה חצי שנה כבר נחשב „טווח ארוך”. נקודת הסינגולריות: האם נעבור אותה עד 2030, ומה יקרה ביום שבו מודל מאמן מודל חזק ממנו. מתי אלגוריתם יתחיל „לרמות” בלי לכתוב על כך ב‑chain‑of‑thought, ולמה אנחנו צריכים מהנדסי AI Supervision ולא רק Prompt Engineers. הצד האופטימי: האצת פיתוח תרופות, חיזוי אסונות ומנועי חלל חכמים – „תקופה של ניסים”. הצד המפחיד: סוכנים אוטונומיים שכותבים מחדש קבצים, משנים תנאי שירות או מפתחים „מטרת‑על” משלהם. ומה יישאר לנו, לבני‑האדם, לעשות כשהרובוטים האומנואידיים יגדלו את השוק ל‑30 מיליארד $? רועי מסביר מדוע חשיבה ביקורתית וניהול מערכות מורכבות יהיו הכישורים החיוניים של הדור הבא – ואיך עדיין נמצא דרכים להתחרות, ליצור וליהנות. אז שימו אוזניות, הגבּרו ווליום, והצטרפו אלינו למסע בין ההזדמנויות והסכנות של עידן ה‑AI המואץ.לינקים:- רועי צזנה בפייסבוק - חדשות העתיד בטלגרם

בפרק הזה של “מדברים פתוח” אנחנו מארחים שוב את שון פז, ראש קבוצת Solution Architects ב‑Red Hat, לשיחה כנה על הדרך שבה ארגוני אנטרפרייז מטמיעים יכולות AI. דיברנו על הפער בין ההייפ למציאות, על יוזקייסים פנימיים שמגבירים פרודוקטיביות, המחסור ב‑GPU, סיכוני אבטחה והדילמה הנצחית Build‑לעומת‑Buy. איך מודדים הצלחה, מהו AI Center of Excellence, ולמה מפתחים לא יישארו בארגון שאין בו קו‑פיילוט? כל התובנות – בפרק אחד.

פרק חגיגי לפסח של "מדברים פתוח" עם קונספט מיוחד – אתם שאלתם, ואנחנו ענינו! אילן וג'וש אספו שאלות מהמאזינים על הנושאים החמים ביותר בעולם הבינה המלאכותית: • האם בעתיד נוכל לזהות תוכן סינתטי ו Deepfake, ומה הסיכונים הכרוכים בכך?• האם מבחן טיורינג עדיין רלוונטי כאשר ה-AI נהיה כה אנושי? • מה זה "וייב קודינג", והאם כתיבת קוד תהפוך נגישה לכל אדם או שתגרום לשינוי דרמטי במקצוע המפתח?• כיצד AI משפיע על החשיבה והזיכרון האנושי? • מהן ההשלכות החברתיות והסכנות הטמונות בשימוש בבינה מלאכותית ברשתות החברתיות? ועוד   

בפרק הזה של "מדברים פתוח" אנחנו מארחים שוב את לירן טל, Developer Advocate בסניק ומומחה לאבטחת מידע, לשיחה מרתקת על סכנות ופרצות אבטחה בעולם ה-LLMs וה-AI. נסקור את סוגי המתקפות החדשות שנוצרו עם ההייפ סביב המודלים, כמו Prompt Injection ו-Data Poisoning, נדבר על איך אפשר להתגונן מפני פרצות כאלה, וננסה להבין איך לא חוזרים שוב על טעויות העבר. הצטרפו אלינו כדי להכיר את הסיכונים שאולי אתם אפילו לא מודעים להם – וכיצד להיזהר בפיתוח אפליקציות מבוססות AI.

בפרק זה התעמקנו בשאלות קריטיות סביב בינה מלאכותית ואחריות – Responsible AI. בשיחה פתוחה עם אורח מיוחד מהאקדמיה, פרופ׳ אבי (אביגדור) גל מהטכניון, דנים בהיבטים משפטיים, אתיים וטכנולוגיים של השימוש ב-AI. בין השאלות שעל הפרק: מי נושא באחריות כאשר מערכות בינה מלאכותית פוגעות בזכויות הפרט או גורמות להפליות? כיצד ניתן לשלב תהליכי פיתוח, רגולציה ואחריות חברתית תוך שמירה על חדשנות? בנוסף, מוצגות דוגמאות מעשיות – מתהליכי למידת מכונה בפרויקטים אקדמיים ועד להתנסויות בתחום הרפואה – המדגישות את הצורך בהסברתיות (explainability) ובשמירה על פרטיות, תוך כדי דיון בהשפעת השימוש ב-LLMs (כמו ChatGPT) על היצירתיות והאוטונומיה האנושית. זהו פרק עשיר ברעיונות ובדיונים מעמיקים שמביא זוויות חדשות לשילוב טכנולוגיה, אתיקה ומשפט, ומציב אתגרי העתיד של עולם הבינה המלאכותית והאחריות החברתית סרטון הסברה של הקורס ב RAI מידע על praxif.ai תכנית הלימודים בהנדסת נתונים ומידע  

בפרק זה אירחנו את שרון דשת, ארכיטקטית AI and Data מרד האט המתמחה בתחום הבינה המלאכותית. שוחחנו על סוגים שונים של סוכנים חכמים, המטרות שלהם, והבעיות שהם נועדו לפתור.   links: Andrew Ng Explores The Rise Of AI Agents And Agentic Reasoning | SnowFlake BUILD 2024 Keynote https://www.geeksforgeeks.org/what-is-agentic-ai/ https://research.ibm.com/blog/ibm-swe-agents https://microsoft.github.io/autogen/0.2/ https://www.crewai.com/  

בעולם שלנו שבו הטכנולוגיה מתקדמת בקצב מסחרר והכול משתנה במהירות, לא רק מנהלים צריכים ללמוד להתמודד עם שינויים ואי־ודאות. בדיוק בגלל זה הזמנו את דורון פדיוק Red Hat - Director of Engineering – מנהל עתיר ניסיון בהובלת שינויים – לשתף אותנו בטיפים ותובנות על Change Management: מה זה בעצם אומר, ואיך צולחים בהצלחה תקופות מאתגרות. מוזמנים להצטרף לפרק הקרוב ולקבל כלים פרקטיים שיכולים לעזור לכולנו לנווט טוב יותר בעולם המשתנה של ימינו.        

בפרק זה ראיינו את בן גדסי ודור סימוני על שימושים פרקטיים של בינה מלאכותית לטובת שיפור שירותי רפואה. 

בפרק הזה שוחחנו עם דולב על הדרכים לתכנן מערכות תוכנה באופן נכון, תוך הדגשת חשיבות הפשטות.עסקנו בסיבות שבגללן לעיתים נוטים לפתח מערכות מורכבות מדי, וכן הסכנות והאתגרים הנלווים לסיבוכיות יתר. בנוסף, עסקנו בדרכים לזיהוי מערכות מסובכות מדי, במטרה לעודד תכנון מודע, יעיל וניתן לתחזוקה לאורך זמן.מאמרים של דולב על simplicity:  the hidden cost of complexity jumping down complexitys rabbit hole

בחברת אלמנטור VP engineering בפרק זה ראיינו איתי נשרי  איתי סיפר לנו איך החברה צמחה וגדלה למובילת שוק באמצעות בניית אקוסיסטם הקוד הפתוח ועל המודל הפיתוח הייחודי שמשלב עבודה עם הקהילה בשלוש רמות שונות

בפרק הזה שוחחנו עם עו"ד יואב אלקלעי ממשרד פרל כהן, מומחה בתחום הקניין הרוחני והפטנטים. יחד, ניסינו לעשות סדר בנושא הרישיונות בעולם הקוד הפתוח. לקראת סיום, דיברנו גם על פטנטים ורישיונות קוד בהקשר של עולם הבינה המלאכותית

בפרק זה של הפודקאסט, ג’וש מראיין את אילן פינטו, מנהל פיתוח ברד האט שאחראי על הובלת בניית מוצרי הבינה המלאכותית בחברה  יחד הם צוללים לעולם הפיתוח של מוצרים ותוכנות מבוססות בינה מלאכותית ומדברים על הרכיבים והטכנולוגיות שמפתחים צריכים להכיר     הם דנים במגבלות של מודלי בינה מלאכותית מציגים כיצד ניתן לדייק את המודלים באמצעות הנדסת פרומפטים פשוטה ומדגימים דרכים לשיפור תשובות המודלים ללא צורך באימון נוסף  בנוסף הם מתעמקים ב RAG - Retrieval Augmented Generation   ובסוף הפרק משוחחים על הדרישות והכישורים הנדרשים ממפתחי התוכנה של המחר.

בפרק זה אירחנו את לירן טל מחברת סניק, וניסינו לענות על שאלת מיליון הדולר: האם קוד פתוח הוא מאובטח יותר או פרוץ יותר? סקרנו כמה סיפורי פריצות אבטחה מוכרים ולירן סיפר לנו על סוגי פרצות אבטחה שונים ומפתיעים שקיימים בעולם הקוד הפתוח. בנוסף, דיברנו על מהי שרשרת אספקה ביצירת קוד ואיך ניתן לאבטח אותה בצורה טובה יותר.    

הפעם אירחנו את איתי שקורי סמנכל של קבוצה הקוד הפתוח בחברת אקווה סקיוטרי שמנהלת מספר ריפוס של קוד פתוח מאד פופלריות שעוזרים למנוע בעיות סבייר סקיורטי אבטחת תוכנה  דיברנו עם איתי על אבטחת קונטניירים בענן ומה זה בכלל אומר דיברנו על זיהוי חולשות וכלים לניהול אבטחת הקונטיינרים  דיברנו על היתרונות והחסרונות שיש לחברה עסקית מפתיחת הקוד לקהל הרחב  ולסיום איתי חלק איתנו כמה טיפים איך להצליח לשחרר קוד פתוח מוצלח