Journalstunde - Gemeinsam die Welt des Machine Learnings erkunden

23. Februar 2022 von Burkhard Hoppenstedt

Es gibt vermutlich wenige Bereiche, bei denen die Publikationen (ugs. Paper) zurzeit so rasant ansteigen wie im Themenfeld des Machine Learning.

Gleichzeitig sind diese Veröffentlichungen nicht leicht zu lesen und am Ball zu bleiben ist keine leichte Aufgabe. Deshalb treffen sich Machine Learning begeisterte Mitarbeiter:innen von eXXcellent solutions und BettercallPaul alle zwei Wochen um eine Publikation zu besprechen. Denn: Gemeinsam macht es gleich doppelt soviel Spaß.

 

Journalstunde-ML
© Dan DeAlmeida - unsplash.com

 

Es ist Donnerstag, 16 Uhr. Die Teilnehmer:innen wählen sich nach und nach in den gemeinsamen Call ein. Manche kommen direkt aus einer anderen Besprechung. Andere schreiben eine kurze Nachricht "noch im Meeting". Es ist nicht immer einfach, die Zeit für das Treffen und das Lesen eines Papers aufzuwenden. Umso erstaunlicher ist es, dass sich diese kleine Gruppe nun schon über einen längeren Zeitraum etabliert hat.

Heute steht auf dem Programm "Language Models are Few-Shot Learners" (https://arxiv.org/pdf/2005.14165.pdf). Hinter diesem Titel verbirgt sich eine Modelarchitektur (Generative Pre-trained Transformer 3, kurz GPT-3), die für viel Furore gesorgt hat und in Fachkreisen und den Medien stark diskutiert wurde. In der folgenden Bildergalerie haben wir einige spannende Anwendungen von GPT-3 zusammengefasst.

Zwei Wochen zuvor hat die Vorbereitung für die heutige Session begonnen. Jeder Teilnehmer kann Vorschläge für Paper einreichen und nach jeder Session wird über ein neues Paper abgestimmt. Das GPT-3 Thema ist mit 75 Seiten ein ziemlicher Brocken. Umso sinnvoller ist es, wenn ein:e Teilnehmer:in sich intensiver vorbereitet und die Sitzung moderieren kann. Wir nennen das eine:n "Sponsor:in" für das Thema.

Dieses Mal übernimmt Clemens souverän die Führung durch die Welt der Transformermodelle. Es geht um mathematische Notationen, Anwendungsbeispiele, aber auch um Seitenthemen, wie z.B. Ethik und Energieverbrauch. Die Gruppe war sehr positiv überrascht, dass diesen Aspekten einzelne Unterkapitel gewidmet wurden. Insbesondere der enorme Energieverbrauch von riesigen Sprachmodellen stellt ein hoch kontroverses Thema dar. Im Blogartikel "Doing AI without breaking the bank: yours, or the planet’s" von scaleway.com lassen sich anhand verschiedener Rechenbeispiele die Energieverbräuche nachvollziehen.

 

Das sind vier interessante Beispiele für unser betrachtetes Modell:

 

1. Narrt uns künstliche Intelligenz?

Now_for_the_fun_part

Abbildung 1 - Screenshot Auszug aus dem Artikel "OpenAI's GPT-3 may be the biggest thing since bitcoin" (Quelle: https://maraoz.com/2020/07/18/openai-gpt3/), Stand 02/2022)


Genarrt von einer künstlichen Intelligenz? Der Artikel "OpenAI's GPT-3 may be the biggest thing since bitcoin" zeigt das große Potential für die Textgenerierung mit GPT-3.

 

2. Textbasierte Abenteuer - Spieleform auf neuer Ebene

welcome-to-ai-dungeon

Abbildung  2 - Screenshot play.aidungeon.io (Quelle: https://play.aidungeon.io/main/home, Stand 02/2022)

Textbasierte Abenteuer kennt ein erfahrener Spieler schon sehr lange. Doch GPT-3 gebt diese Spieleform auf eine neue Ebene. Neugierig geworden?

 

3. Eine Webseite nicht coden, sondern beschreiben?

Describe-a-layout

Abbildung  3 - Screenshot Twitter: Sharif Shameem @sharifshameem (Quelle: pic.twitter.com/w8JkrZO4lk, Stand 02/2022)

In einem Beispiel unter "This is mind blowing - With GPT-3, I built a layout generator where you just describe any layout you want, and it generates the JSX code for you"  von Sharif Shameem lassen sich die ersten Ansätze beobachten.

 

4. Chatten mit KI?

Computer-Human2

Abbildung  4 - Screenshot projectdecember.net (Quelle: https://projectdecember.net/samples.php, Stand 02/2022)

Die Website projectdecember.net macht das Gespräch mit KI möglich. Dort kann sogar der Chat mit KI für 5$ getestet werden.

 

 

Ausblick

Nach einer sehr kurzweiligen Stunde tauchten wir gemeinsam aus der faszinierenden Welt der KI wieder auf. Nun heißt es für die Machine Learning begeisterten Mitarbeiter:innen von eXXcellent solutions und BettercallPaul "Auf zum Wählen", denn es gibt viele spannende Themen, die betrachtet, getestet und besprochen werden wollen.

Seien Sie also gepsannt auf unsere nächsten Journalstunden.

 

 

Weitere Informationen

Haben Sie Fragen zu KI im Allgemeinen oder zu unseren KI-Ansätzen im Speziellen? Oder interessieren Sie sich für unsere gesamten Aktivitäten im KI-Umfeld?

Schreiben Sie mir eine E Mail, ich freue mich auf Ihre Kontaktaufnahme:

emailburkhard.hoppenstedt@exxcellent.de

 

Lesen Sie auch unsere weiteren Artikel zu den Themen "IoT", "KI" und AI/ML:

bubble-chat-information-2-1KI / Data & Analytics

bubble-chat-information-2-1Ihr Einstieg in KI

bubble-chat-information-2-1Sind wir der passende KI-Partner

 

Über den Autor:

Burkhard Hoppenstedt  

Als Portfolio Manager für IoT und Data Scientist bei der eXXcellent solutions gmbh in Ulm entwickelt Burkhard Hoppenstedt Lösungen im Bereich IoT/Smart City.

Neben der Softwareentwicklung promoviert er am Institut für Datenbanken und Informationssysteme an der Universität Ulm im Themenfeld Predictive Maintenance.

Seine Freizeit verbringt er gerne mit Theater und Musik. In diesem Kontext ist er gespannt, wann die erste KI ihn als Laienmusiker ablösen kann. LinkedIn-Profil

Tags: Alle Blogbeiträge, Technologien, KI & Analytics

Newsletteranmeldung.