Nach einem am 1.Juli 25 in WIRED publizierten Artikel soll eine Schmutzkampagne des Putinregimes in Jahren 2023/2024 und zwischen September 2024 und Mai 2025 weltweit zu millionenfachen Clicks maßgeblich unter zur ZURHilfenahme eines freien AI/[KI]Tools wie FLUX einer Software der deutschen Gruppe BFL geführt worden sein.
Die Tatsachen-Behauptung stützt sich auf einen Berichtsupdate einer Recherchegruppe zu Aktion Overload
Black Forest Labs (BFL) wird in wired als Ausgründung/Abspaltung ehemaliger Mitarbeiter von Stability AI beschrieben. Die Forscher von Reset TEC [und Check First] geben an, zu 99 % sicher die Consumer Version – nach BFL-webseite 100 credits kostenlos - von FLUX in den neu kreierten 567 Fake Bildern/Storys entdeckt zu haben. Diese BFL-Software FLUX, die in bisher sechs Varianten als Text zu Bild-Video Generator funktioniert, soll u.a. in der Overload campaign Bilder von vermeintlichen muslimischen Randale Attentätern, die Paris und Berlin anzünden, geschaffen haben.
„We build in multiple layers of safeguards to help prevent unlawful misuse, including provenance metadata that enables platforms to identify AI generated content, and we support partners in implementing additional moderation and provenance tools,” schrieb ein Sprecher von BFL an wired in einer email. Die Bereitschaft zur Zusammenarbeit mit Behörden, Entwicklern und Plattform Betreibern wird auch versichert ! Die Antwort bezieht sich auch auf den Vorwurf der Forscher; „prompts that included discriminatory language—such as “angry Muslim men.”[..] This highlights “how AI text-to-image models can be abused to promote racism and fuel anti-Muslim stereotypes,” the researchers wrote, adding that it raises “ethical concerns on how prompts work across different AI generation models.”
BFL bewirbt Flux u,a, wie folgt mitdem Slogan:Play.Create.Manipulate [siehe Screenshot oben]
Letzteres haben Putins Schergen weilich gemacht.
Ob es sich ggf. auch um eine Schmierkampagne der kommerziellen AI-Konkurrenz handeln könnte, ist angesicht der - unethischen - prompts, der Unternehmenssoftware, welches sich im August 2024 von/auf nexpert.ai als "Die Entwicklung von Flux AI unterstreicht die wachsende Bedeutung der deutschen KI-Start-up-Szene, die sich zunehmend als ernstzunehmende Konkurrenz zu den großen internationalen Playern positioniert." feiern ließ, eher belanglos.
Im Impressum von BFL fand/en ich/wir keine korrekte deutsche Impressums Auszeichnung zu einem Sitz in Deutschland der Gesellschaft sondern nur einen Sitz in Wilmington/USA mit dem CEO als Kontaktperson. Ferner auch nur ein englischsprachiges Kontaktformular für Anfragen
(kmm)
Dank an @dokmz@mastodon.social für den Hinweis auf wired usw.
Aus der Selbstbechreibung für flux
Was ist der Flux AI Image Generator?
Der Flux AI Image Generator ist eine fortschrittliche KI-Bilderzeugungsplattform mit den FLUX AI-Modellen. Er bietet eine hochmoderne Leistung in Bezug auf visuelle Qualität und Prompt-Folgen und ermöglicht es den Benutzern, hochwertige Bilder zu generieren und von der Community generierte Inhalte zu durchsuchen.
Nach: https://fluxai.pro/de
