Eine schnelle KI-Bilderzeugung ist jetzt auf einem Android-Telefon möglich. In einem aktuellen Demo-Videokonnte Qualcomm mit dem KI-Bildgenerator Stable Diffusion Version 1.5 auf einem Android-Telefon ein 512 x 512 Pixel großes Bild einer gepanzerten Katze generieren. Und der Kicker ist, dass es in weniger als 14,42 Sekunden fertig ist, was ziemlich nahe an dem liegt, was PCs mit der Technologie machen können.
Um dies zu erreichen, verwendeten die Ingenieure des Unternehmens einen Prozess namens „Quantisierung“. Ohne hier zu tief ins Unkraut zu gehen, haben sie im Grunde die Desktop-Version von Stable Diffusion genommen, sie verkleinert und für mobile Geräte optimiert. Laut Qualcomm erhöht der Prozess „die Leistung [while] Auch [saving] Leistung, indem es dem Modell ermöglicht wird, effizienter zu laufen, wodurch „[consuming] weniger Speicherbandbreite.“
Es ist nicht genau bekannt, welches mobile Gerät bei der Demonstration verwendet wurde. Wir wissen jedoch, dass es von der Snapdragon 8 Gen 2 Mobile Platform angetrieben wurde, dem exakt gleichen Chipsatz, der auch auf dem zu finden ist Samsung Galaxy S23. Es ist erwähnenswert, dass Andere Entwickler haben es geschafft, Stable Diffusion zu installieren auf der Sony Xperia 5 II, aber das Generieren von Bildern auf diesem Telefon dauerte aufgrund der schwächeren Hardware etwa eine Stunde. Die wichtigste Erkenntnis aus der Leistung von Qualcomm ist die Geschwindigkeit und was dies für die späteren Benutzer bedeuten könnte.
Zukunft der generativen KI
Die Sache mit generativen KI-Modellen ist, dass sie ziemlich viel Rechenleistung benötigen, um zu funktionieren. Die Entwickler von Stable Diffusion empfehlen beispielsweise die Verwendung eines Computers, der mit NVIDIA-Hardware und mindestens 6,9 GB VRAM (Video-RAM) ausgestattet ist, um Bilder zu erstellen. Smartphones werden nicht mit VRAM geliefert, da sich die Hersteller für reguläres RAM entscheiden, um Software auf dem Gerät auszuführen. Aber jetzt beginnt diese Leistungsdiskrepanz zu verblassen, sodass wir sehen könnten, dass diese Technologie auf mehr mobilen Geräten auftaucht.
Jilei Hou, Vice President of Engineering bei Qualcomm, sagte gegenüber VentureBeat, dass die Erkenntnisse aus der Optimierung von Stable Diffusion für Smartphones auch für andere Geräte genutzt werden könnten, die auf Firmenhardware laufen. Hou weist insbesondere auf Laptops und XR-Headsets als potenzielle zukünftige Häuser für generative KI hin. Zu dem, was sie tun können, gibt es eine Reihe von Anwendungen wie „Bildbearbeitung“. [plus] In-Painting“, ein Prozess, bei dem eine KI die fehlenden Teile in einem generierten Kunstwerk ausfüllt. Das Unternehmen hofft auch, dass all dies ohne Internetverbindung zur Stable Diffusion Cloud möglich ist. So cool das auch sein mag, es ist nicht bekannt, ob oder wann diese Technologie auf Telefonen mit Qualcomm-Hardware weit verbreitet sein wird.
Neben der Generierung von Bildern haben Entwickler eine Schreib-KI entwickelt, um beim Schreiben von Inhalten zu helfen. Schauen Sie sich unbedingt unsere aktuelle Liste der besten KI-Autoren für 2023 an – Jasper gehört zu unseren Favoriten.
