💡 Mijn geloof in het belang van RAG (retrieval augmented generation) werd bevestigd, nadat IBM enkele indrukwekkende RAG-cases toonde. Een van de presentators noemde het zelfs de "grootste productiviteitswinnaar" onder hun AI-tools.

🔍 Twee voorbeelden:

  1. IBM Deep Search (https://ds4sd.github.io/) is superkrachtig en er is een gratis versie.
  2. Sevilla Scout Advisor: hier wordt RAG toegepast op atleten. Kijk eens op https://lnkd.in/eJ3mz9uS.

📊 Enkele interessante feiten en cijfers:

  • IBM beweert dat ze 1500 uur handmatig werk hebben bespaard door Generative AI te gebruiken om taal om te zetten in code voor een klant.
  • Ze schatten dat het schrijven van code 70% van de tijd een AI-job zal zijn.
  • Bij IBM is 60% van de dev-content automatisch gegenereerd.
  • Als coding wordt geassisteerd door AI, is er een reductie van 45% in de development effort.
  • Je kunt je eigen modellen meebrengen (BYOM) in het Watson-ecosysteem.
  • IBM beweert "open" te zijn voor andere modellen, hoewel niet zo open als open source (als ik het goed begrijp).
  • 90% van de online betalingen lopen nog steeds via COBOL op een mainframe.
  • Er zijn nog steeds ongeveer 230 miljard regels COBOL-code actief in productie.

Je mag het belang van AI governance niet vergeten, dat bestaat uit drie pijlers: lifecycle, risicobeheer en compliance.

Er werd ook duidelijk onderscheid gemaakt tussen de soorten risico's in een AI-project: regulatory risk, reputatierisico en operationeel risico.

⏱️ Ik leerde ook dat IBM zijn eigen foundational model (granite-20b-multilingual) heeft, samengesteld uit een "blue stack" (door IBM gevalideerde inhoud) van 6 TB. Helaas wordt Nederlands nog niet ondersteund, alleen Engels, Duits, Spaans, Frans en Portugees.

💫 IBM heeft coding-assistenten voor Ansible, Cobol2Java en Java, wat hun focus op het belang van mainframe aangeeft. Ze poneren dat 9 van de 10 betalingen uiteindelijk worden verwerkt door COBOL/mainframe-systemen.
En hoorde voor het eerst over Jobol, een Cobol naar Java-vertaling die meer is dan alleen een eenvoudige vertaling.

Wil je meer weten?