Es gibt vermutlich wenige Bereiche, bei denen die Publikationen (ugs. Paper) zurzeit so rasant ansteigen wie im Themenfeld des Machine Learning.
Gleichzeitig sind diese Veröffentlichungen nicht leicht zu lesen und am Ball zu bleiben ist keine leichte Aufgabe. Deshalb treffen sich Machine Learning begeisterte Mitarbeiter:innen von eXXcellent solutions und BettercallPaul alle zwei Wochen um eine Publikation zu besprechen. Denn: Gemeinsam macht es gleich doppelt soviel Spaß.
© Dan DeAlmeida - unsplash.com
Es ist Donnerstag, 16 Uhr. Die Teilnehmer:innen wählen sich nach und nach in den gemeinsamen Call ein. Manche kommen direkt aus einer anderen Besprechung. Andere schreiben eine kurze Nachricht "noch im Meeting". Es ist nicht immer einfach, die Zeit für das Treffen und das Lesen eines Papers aufzuwenden. Umso erstaunlicher ist es, dass sich diese kleine Gruppe nun schon über einen längeren Zeitraum etabliert hat.
Heute steht auf dem Programm "Language Models are Few-Shot Learners" (https://arxiv.org/pdf/2005.14165.pdf). Hinter diesem Titel verbirgt sich eine Modelarchitektur (Generative Pre-trained Transformer 3, kurz GPT-3), die für viel Furore gesorgt hat und in Fachkreisen und den Medien stark diskutiert wurde. In der folgenden Bildergalerie haben wir einige spannende Anwendungen von GPT-3 zusammengefasst.
Zwei Wochen zuvor hat die Vorbereitung für die heutige Session begonnen. Jeder Teilnehmer kann Vorschläge für Paper einreichen und nach jeder Session wird über ein neues Paper abgestimmt. Das GPT-3 Thema ist mit 75 Seiten ein ziemlicher Brocken. Umso sinnvoller ist es, wenn ein:e Teilnehmer:in sich intensiver vorbereitet und die Sitzung moderieren kann. Wir nennen das eine:n "Sponsor:in" für das Thema.
Dieses Mal übernimmt Clemens souverän die Führung durch die Welt der Transformermodelle. Es geht um mathematische Notationen, Anwendungsbeispiele, aber auch um Seitenthemen, wie z.B. Ethik und Energieverbrauch. Die Gruppe war sehr positiv überrascht, dass diesen Aspekten einzelne Unterkapitel gewidmet wurden. Insbesondere der enorme Energieverbrauch von riesigen Sprachmodellen stellt ein hoch kontroverses Thema dar. Im Blogartikel "Doing AI without breaking the bank: yours, or the planet’s" von scaleway.com lassen sich anhand verschiedener Rechenbeispiele die Energieverbräuche nachvollziehen.
Das sind vier interessante Beispiele für unser betrachtetes Modell:
1. Narrt uns künstliche Intelligenz?
Abbildung 1 - Screenshot Auszug aus dem Artikel "OpenAI's GPT-3 may be the biggest thing since bitcoin" (Quelle: https://maraoz.com/2020/07/18/openai-gpt3/), Stand 02/2022)
Genarrt von einer künstlichen Intelligenz? Der Artikel "OpenAI's GPT-3 may be the biggest thing since bitcoin" zeigt das große Potential für die Textgenerierung mit GPT-3.
2. Textbasierte Abenteuer - Spieleform auf neuer Ebene
Abbildung 2 - Screenshot play.aidungeon.io (Quelle: https://play.aidungeon.io/main/home, Stand 02/2022)
Textbasierte Abenteuer kennt ein erfahrener Spieler schon sehr lange. Doch GPT-3 gebt diese Spieleform auf eine neue Ebene. Neugierig geworden?
3. Eine Webseite nicht coden, sondern beschreiben?
Abbildung 3 - Screenshot Twitter: Sharif Shameem @sharifshameem (Quelle: pic.twitter.com/w8JkrZO4lk, Stand 02/2022)
In einem Beispiel unter "This is mind blowing - With GPT-3, I built a layout generator where you just describe any layout you want, and it generates the JSX code for you" von Sharif Shameem lassen sich die ersten Ansätze beobachten.
4. Chatten mit KI?
Abbildung 4 - Screenshot projectdecember.net (Quelle: https://projectdecember.net/samples.php, Stand 02/2022)
Die Website projectdecember.net macht das Gespräch mit KI möglich. Dort kann sogar der Chat mit KI für 5$ getestet werden.
Ausblick
Nach einer sehr kurzweiligen Stunde tauchten wir gemeinsam aus der faszinierenden Welt der KI wieder auf. Nun heißt es für die Machine Learning begeisterten Mitarbeiter:innen von eXXcellent solutions und BettercallPaul "Auf zum Wählen", denn es gibt viele spannende Themen, die betrachtet, getestet und besprochen werden wollen.
Seien Sie also gepsannt auf unsere nächsten Journalstunden.
Weitere Informationen
|
Haben Sie Fragen zu KI im Allgemeinen oder zu unseren KI-Ansätzen im Speziellen? Oder interessieren Sie sich für unsere gesamten Aktivitäten im KI-Umfeld? Schreiben Sie mir eine E Mail, ich freue mich auf Ihre Kontaktaufnahme:
Lesen Sie auch unsere weiteren Artikel zu den Themen "IoT", "KI" und AI/ML: |
Über die Autoren:
|
Andreas Lux: Andreas Lux ist einer von fünf Gründungsmitgliedern und Prokurist der eXXcellent solutions. Er bringt über 20 Jahre Erfahrung in der Entwicklung von individuellen Softwarelösungen mit und ist im Unternehmen Ansprechpartner für alles rund um KI, Data und Analytics.
|
 |
Burkhard Hoppenstedt: Dieser Blogartikel stammt im Orginaltext von Burkhard Hoppenstedt. Dieser war bis September 2022 Portfolio Manager für IoT und Data Scientist bei der eXXcellent solutions gmbh in Ulm und entwickelte Lösungen im Bereich IoT/Smart City. |
