Im Rahmen dieser Bachelorarbeit soll analysiert werden, welche Auswirkungen die KI in Onlinemedien auf unsere Gesellschaft hat und in Zukunft noch haben wird. Hierbei liegt der Fokus der Arbeit nicht auf die Auswirkungen sämtlicher Art, sondern insbesondere auf die ethischen und wirtschaftlichen Effekte der KI auf die Gesellschaft. Das Ziel der Studie ist es, mögliche Auswirkungen im Zusammenhang mit der KI im e-Commerce aus wirtschaftlicher Sicht herauszukristallisieren und die Moral der Ethik, welche hinter der Nutzung von KI in Onlinemedien steckt, dabei nicht außer Acht zu lassen.
3,4 Milliarden Menschen weltweit nutzen täglich Onlinemedien, das heißt, weit über die Hälfte der Weltbevölkerung ist inzwischen Online. Die Anzahl der Nutzer, welche Onlinemedien tagtäglich nutzen, steigt kontinuierlich an. Durch den Einsatz von künstlicher Intelligenz in Smartphones, ist es heutzutage sogar möglich, Onlinemedien auch unterwegs zu nutzen – was vor zehn Jahren noch undenkbar gewesen wäre.
Die KI hat diverse Auswirkungen auf unsere Gesellschaft. Seit ihrem Bestehen erweckt sie in uns Menschen gleichermaßen Hoffnung wie Angst, Befürwortung wie Ablehnung und Euphorie wie Skepsis. Aufgrund dieser emotionalen Vielfalt ist die KI heutzutage in aller Munde und findet sich somit in sämtlichen Bereichen des Lebens wieder.
Inhaltsverzeichnis
Abbildungsverzeichnis
Tabellenverzeichnis
Abkürzungsverzeichnis
1.Einleitung
1.1 Problemstellung und Ziel der Arbeit1
2.Grundlagen
2.1 Künstliche Intelligenz
2.1.1 Begriffliche Einordnung
2.1.2 Differenzierungsbereiche der KI
2.1.3 Möglichkeiten und Grenzen der KI
3.Effekte der KI auf Online Medien
3.1 Soziale Netzwerke
3.1.1 Facebook
3.1.2 Instagram
3.2 Streaming Dienste
3.2.1 Netflix
3.2.2 Spotify
3.3 Electronic Commerce
3.3.1 Amazon
3.3.2 Chatbot
4.Einführung in die Digitale- und Algorithmen Ethik
4.1 Maschine ersetzt den Menschen
4.1.1 Menschlicher - oder digitaler Mitarbeiter
4.2 Diskriminierung bei algorithmischen Entscheidungssystemen
4.3 Verantwortung für die Handlungen der Algorithmen
5.Risiken für den Datenschutz beim Einsatz von KI
5.1 Datenschutzrechtliche Anforderungen
5.2 Das Datenschutzrecht
5.3 Datenschutzrechtliche Konflikte
5.4 Die Allgemeinen Grundsätze
5.5 Die Folgenabschätzung bei nicht-Einhaltung
6.Moralische Betrachtung der Entwicklung von KI
6.1 Ethische Herausforderungen
6.1.1 Diskriminierungsfreiheit
6.1.2 Zuverlässlichkeit
6.1.3 Schutz der Privatsphäre
6.1.4 Barrierefreiheit
6.1.5 Transparenz und Verantwortlichkeit
6.2 Gesellschaftliche deutsche Meinung zu einer Zukunft mit KI
7.Diskussion
7.1 Zusammenfassung
7.2 Ausblick für weitere Forschung
8.Literaturverzeichnis
Abbildungsverzeichnis
Abbildung 1 Turing Test (Barth, 2013)
Abbildung 2 Chinese Room Experiment
Abbildung 3 Expertensystem
Abbildung 4 Portal von Facebook (Por19)
Abbildung 5 Prozentuale Empfehlungsrate bei Netflix
Abbildung 6 Amazon Echo und Amazon Echo Show
Abbildung 7 Künstliche Intelligenz bei Amazon (Amazon Web Services , 2017)
Abbildung 8 Amazon Prime Air Drohne (Hei)
Abbildung 9 Personalisierte Werbung von Amazon auf Facebook
Abbildung 10 Auswirkungsbereiche im Bezug zu Chatbots
Abbildung 11 Der Chatbot von R. Mazurenko
Abbildung 12 Hass-Tweets vom Chatbot „Tay“
Abbildung 13 Die Deutsche Meinung zu einer Zukunft mit KI (BVDW)
Tabellenverzeichnis
Tabelle 1 Anwendungsbereiche der schwachen KI und starken KI (Inf19)
Tabelle 2 Faktoren zur Algorithmen Bestimmung
Tabelle 3 Einstellungsvergleich von IVR/Chatbot und digitalem Mitarbeiter
Tabelle 4 Vorteile IVR/Chatbot anstatt menschlichen Mitarbeiter
Abkürzungsverzeichnis
Abbildung in dieser Leseprobe nicht enthalten
1 Einleitung
3,4 Milliarden Menschen weltweit nutzen täglich Online Medien, das heißt weit über die Hälfte der Weltbevölkerung ist inzwischen Online (ITU; World Bank; United Nations, 2016). Die Anzahl der Nutzer, welche Online Medien tagtäglich nutzen steigt kontinuierlich an. Durch den Einsatz von künstlicher Intelligenz (engl. Artificial Intel- ligence, kurz AI) in Smartphones, ist es heutzutage sogar möglich Online Medien auch unterwegs zu nutzen – was vor zehn Jahren noch undenkbar gewesen wäre.
Die KI hat diverse Auswirkungen auf unsere Gesellschaft. Seit ihrem Bestehen, er- weckt sie in uns Menschen gleichermaßen Hoffnung wie Angst, Befürwortung wie Ablehnung und Euphorie wie Skepsis. Aufgrund dieser emotionalen Vielfalt ist die KI heutzutage in aller Munde und findet sich somit in sämtlichen Bereichen des Lebens wieder.
1.1 Problemstellung und Ziel der Arbeit
Eine etliche Anzahl von neuen Technologien haben der KI einen enormen Schub ge- geben, um sich als globalen Trend etablieren zu können. In schnellen Schritten drängt sich die KI in den Alltag von uns ein. Im Rahmen dieser Bachelorarbeit, soll analysiert werden, welche Auswirkungen die KI in Online Medien auf unsere Gesellschaft hat und in Zukunft noch haben wird. Hierbei liegt der Fokus der Arbeit nicht auf die Aus- wirkungen sämtlicher Art, sondern ins besondere auf die ethischen und wirtschaftli- chen Effekte der KI auf die Gesellschaft. Das Ziel der Studie ist es, mögliche Auswir- kungen im Zusammenhang mit der KI im e-Commerce aus wirtschaftlicher Sicht her- auszukristallisieren und die Moral der Ethik, welche hinter der Nutzung von KI in On- line Medien steckt, dabei nicht außer Acht zu lassen.
2 Grundlagen
Da die KI sehr breit aufgefasst werden kann, werden in diesem Kapitel mehrere Defi- nitionen von Spezialisten miteinander verglichen, um schlussendlich eine konkrete Definition zu repräsentieren. Damit die Frage, ob Maschinen denken können beant- wortet werden kann, wird der Turing-Test, welcher zur Beantwortung eine große Rolle spielt, im Folgendem genauerer erläutert. Außerdem werden die Schwachen und Starken Bereiche der KI, detailliert beschrieben, differenziert und mit Beispielen belegt. Zudem wird ein weiteres Gedankenexperiment vorgestellt, welches im Ge- genspruch zu dem Turing-Test steht. Anschließend wird aufgezeigt, welche Möglich- keiten die KI bietet und wo die momentanen Grenzen der KI liegen.
2.1 Künstliche Intelligenz
Alleinig der Begriff „künstliche Intelligenz“ erweckt Fragen in uns auf, wie: „Können Maschinen denken?“ oder „ Werden Maschinen eines Tages denken können?“. Mit diesen Fragen beschäftigte sich Alan Turing - einer der wichtigsten Begründer der In- formatik und somit auch der KI – im Jahre 1950.
„ I propose to consider the question “Can machines think?”. This should begin with definitions of the meaning of the terms “machine” and “think.” (...) Instead of attempt- ing such a definition I shall replace the question by another, which is closely related to it and is expressed in relatively unambiguous words. “
Turing schlug vor, um die Frage – Können Maschinen denken? - zu beantworten, müsste man vorerst Begriffe wie „Maschine“ und „denken“ definieren. Anstatt sich mit Definitionen rumzuschlagen, hat er die Frage durch etwas anderes ersetzt, wel- ches damit zusammenhängt und in relativ eindeutigen Wörtern ausgedrückt werden kann. Somit entstand die Idee des Turing-Tests.
Die Ausgangsparameter für diesen Test wurden von Turing unter Folgenden Annah- men aufgestellt und sind in Abbildung 1 schematisch dargestellt.
Abbildung in dieser Leseprobe nicht enthalten
Abbildung 1 Turing Test (Barth, 2013)
Es gibt eine männliche Person A, eine weibliche Person B und ein Interviewer C (für den Interviewer ist das Geschlecht irrelevant, da dieser als neutrale Person definiert ist). C sitzt in einem geschlossenen Raum und kann somit A und B nicht sehen. C kann nur mit Hilfe eines Bildschirms und einer Tastatur mit A und B kommunizieren. C weiß nicht, welche Person die Frau oder der Mann ist. C kennt beide nur unter X und Y. Das Ziel von C ist es, durch die Kommunikation herauszufinden wer von den beiden Personen die Frau, und wer der Mann ist. Während dem Test gibt B immer ehrliche Antworten und hilft somit C dabei sein Geschlecht herauszufinden. Währenddessen versucht A durch unehrliche Antworten C in die Irre zu führen, damit der Interviewer eine falsche Entscheidung bezüglich des Geschlechtes fällt.
Für Turing ist nun interessant was passieren würde, wenn man die Person A durch eine Maschine ersetzt. Wenn die Maschine es schafft den Interviewer C, gleich oft oder öfter, zu einer falschen Entscheidung zu führen und somit wissend genug kom- munizieren kann, um am Ende dieselbe Erfolgsrate bei C, wie von der Person A zu erzielen, ist Turing dazu bereit der Maschine Denkvermögen zuzugestehen.
Der Turing Test schlug sich somit in die Geschichte der KI ein und wurde Jahre lang in diesem Bereich eingesetzt. Die Maschinen waren Langzeit aussichtslos, bis sich am 3. September 2011 etwas Unglaubliches ereignete. Die Web-Applikation „Cleverbot“ nahm gemeinsam mit 1334 Menschen am Turing-Test-Festival in Guwahāti (Indien) teil. Cleverbot hat es geschafft von fast 60 Prozent der Interviewer als Mensch wahr- genommen zu werden, wobei hingegen die wirklich menschlichen Konkurrenten nur 63 Prozent erreichten. Cleverbot lernt durch jede Kommunikation mit Personen eine menschliche Unterhaltung zu führen und ist offenbar sehr gut darin. Eventuell könn- ten weitere erstaunliche Ergebnisse von Maschinen dazu führen, den Turing-Test kri- tisch zu hinterfragen. (Ertel, 2009)
2.1.1 Begriffliche Einordnung
Obwohl die Menschheit sich schon seit Jahrzehnten mit der KI beschäftigt, gibt es bis dato noch keine exakte und universal anerkannte Definition für dieses Phänomen, da das Thema zu komplex und vielseitig ist. Zudem gibt es noch nicht einmal eine allge- mein gültige Definition von der „Intelligenz“ selbst. Trotz dessen, haben viele Spezia- listen in diesem Themenbereich sich daran versucht, das Gebiet der KI zu charakteri- sieren.
John McCarthy auch gen. „father of AI“, definiert die KI mit dem Ziel „… Maschinen zu entwickeln, die sich verhalten, als verfügten sie über Intelligenz…“ . Diese Defini- tion zählt zu den ersten in diesem Themenbereich und wurde von einem der Pioniere der KI im Jahre 1955 definiert. Weiterhin behauptet John McCarthy er sehe nicht, dass „ … menschliche Intelligenz etwas ist, das Menschen nie verstehen können…". (Sta19)
Laut dem Encyclopedia Britannica ist die KI „ … die Fähigkeit digitaler Computer oder computergesteuerter Roboter, Aufgaben zu lösen, die normalerweise mit den höheren intellektuellen Verarbeitungsfähigkeiten von Menschen in Verbindung gebracht wer- den…“. (Copeland, 1998)
Elaine Rich definiert die KI 1983 wie folgt „ … A r tificial Intelligence is the study of how to make computers do things at which, at the moment, people are better “. Rich erläu- tert, dass die KI das belehren von Computern ist, Dinge zu tun, in denen Menschen momentan noch besser sind. Diese Definition ist bisher die am meisten anerkann- teste, da diese nach mehreren Jahren immer noch aktuell sein wird. (Ertel, 2009)
Schlussendlich kann man erst eine allgemein gültige Definition der KI definieren, wenn Computer dazu fähig sind, dass komplette menschliche Handeln und Denken zu lernen und wenn eine Definition für die Intelligenz besteht.
2.1.2 Differenzierungsbereiche der KI
Die KI lässt sich in zwei Arten differenzieren. Zumal gibt es die schwache KI (engl. weak AI) , aber auch die starke KI (engl. strong AI) . Die schwache KI legt ihren Fokus auf die Lösung konkreter Anwendungsprobleme. Bei der starken KI hingegen, möchte man bei einem System eine allgemeine Intelligenz schaffen, die der des Men- schen ähnelt oder sogar noch übertrifft. Grundsätzlich kann man sagen, dass die schwache KI die Intelligenz nur simuliert, während die starke KI als echte Intelligenz interpretiert werden kann. In Tabelle 1 wird dargestellt, in welchen Anwendungsbe- reichen die KI auf beide Arten eingesetzt wird.
Tabelle 1 Anwendungsbereiche der schwachen KI und starken KI (Inf19)
Abbildung in dieser Leseprobe nicht enthalten
Schwache KI
Einige Wissenschaftler und Philosophen sind der Meinung, dass ein KI-System noch so intelligent erscheinen kann, es doch trotzdem eine schwache KI sei. Sie behaupten, dass die menschliche Intelligenz grundsätzlich nicht durch ein Computer Programm simuliert werden kann. Um die These zu belegen entwickelte der Philosoph John Se- arle im Jahre 1984 das chinesische Zimmer Experiment (engl. Chinese Room Experi- ment) .
Das Experiment verläuft wie folgt (siehe Abbildung 2): Eine Person sitzt in einem ge- schlossenen Raum und hat einige chinesische Texte vor sich liegen. Diese Person kann kein Chinesisch sprechen, schreiben und weder noch die chinesischen Schriftzeichen lesen oder erkennen. Durch einen Schlitz an der Wand, werden der Person chinesi- sche Geschichten zugeschickt und zu der Geschichte werden ihm fragen, ebenfalls auf Chinesisch, gestellt. Zur Hilfe erhält die Person ein „Handbuch“ auf seine Mutter- sprache. Mit dem Handbuch soll die Person die chinesische Geschichte entziffern und eine Antwort auf Chinesisch schreiben.
Sie verfolgt somit nur den Anweisungen, versteht die Antwort, welche sie anschlie- ßend durch den Schlitz zurückschiebt, jedoch nicht. Außerhalb vor dem Schlitz steht ein chinesischer Muttersprachler, welcher die Geschichte und die Fragen formuliert hat. Nach der Auswertung der Antworten, ist sich der Muttersprachler sicher, dass sich in dem Raum jemand befinden muss, der chinesisch spricht.
Anhand von diesen Gedankenexperiment argumentiert Searle damit, dass ein Pro- gramm, welches den Turing-Test besteht, nicht unbedingt als intelligent bezeichnet werden kann, dieser erscheint meistens nur als intelligent. (Inf191)
Abbildung in dieser Leseprobe nicht enthalten
Abbildung 2 Chinese Room Experiment
Starke KI
Wie oben bereits genannt ist die starke KI die Art von künstlicher Intelligenz, welche dieselben intellektuellen Verfahren wie der Mensch vorzeigt, oder die eines Men- schen sogar übertrifft. Seit der Entwicklung der KI, ist diese Vision das Ziel aller KI - Forschungen. Dieses Ziel in der nahen Zukunft zu erreichen, bleibt jedoch mittler- weile fast unrealistisch. Häufig wird die starke KI in Science-Fiction Filmen oder Lite- raturen genutzt.
Abgesehen davon wird die künstliche Intelligenz unter anderem oftmals mit Begriffen wie…
- Bewusstsein
- Eigenwahrnehmung
- Empfindungsvermögen
- Weisheit
…alliiert. Inwieweit diese Kenntnisse miteinander verbunden sind, ist noch nicht ge- klärt. Ob beispielsweise ein Bewusstsein notwendig wäre, um logisch Denken zu kön- nen. (Inf19)
2.1.3 Möglichkeiten und Grenzen der KI
Die Möglichkeiten der KI kann man vielseitig betrachten. Oftmals sind sie dort vorzu- finden, wo die Stärken der menschlichen Intuition und Erfahrungen nicht mehr zur Anwendung kommen. Die Möglichkeiten der KI überwinden sozusagen die Schwie- rigkeiten, welche der Mensch mit seiner Rechenleistung hat. Zur vollständigen Lö- sung von Problemen benötigt man jedoch die menschlichen Individuen, wie auch eine hohe Rechenleistung. Aus den Lösungsansetzen zu lernen, wie etwas gelöst wer- den kann, ist ebenfalls erforderlich für einen Erfolg. Somit sind die Schwächen von Computern klar aufzuzeigen, diese liegen bei dem logischen Schließen und Folgern. Die Möglichkeiten, welche uns die KI heutzutage öffnen sind zwar breit gefächert, aber in einigen Bereichen noch zum Teil eingeschränkt. Beispielsweise besitzen Com- puter immer noch nicht die Fähigkeit menschliche Handlungen - oder auch die von anderer Lebewesen - zu verstehen oder gar diese nachzuahmen. In der Umsetzung von KI sprechen einige Aspekte für den Einsatz von Computersystemen, jedoch ist der Erfolg hierbei nicht zu garantieren. Ein Rechensystem muss vorerst programmiert werden, damit es in der Lage ist KI entstehen zu lassen. Somit muss jede gestellte Aufgabe, wie das Verhalten unterschiedlicher Individuen, in der Computersprache verfasst und umgewandelt werden.
Die Umwandlung erfolgt zwischen der Zusammenarbeit mehrerer Wissenschaftler, psychologischen Spezialisten und Biologen, wie auch Informatikern. Erst dann kann sichergestellt werden, dass eine optimale Umsetzung erzielt wurde. Die Herausfor- derung hierbei ist es, die fundamentalen Elemente der verschiedenen Gebiete ideal in die des Eigenen zu integrieren. Die Neurowissenschaft trägt mit seinem For- schungszweig der Gehirnforschung einen potenziellen Beitrag zur Funktionsweise einzelner künstlicher Verhaltensweisen bei. Dies tut sie, indem sie die Funktionen der Verhaltenszüge im Zusammenhang einzelner Neuronen, in unterschiedlichen Indivi- duen, überprüft und beurteilt. Die fortschrittlichen Erkenntnisse der Biologie sind ebenfalls ausschlaggebend zum Verständnis und zur Umsetzung etlicher Verhaltens- züge der KI. Durch dieses Zusammenspiel entsteht ein Netzwerk aus unterschiedli- chen Aspekten der Wissenschaft, wodurch sich die Möglichkeiten, wie auch die Gren- zen der KI immer erneut mit dem aktuellen Stand definieren lassen.
Die Entwicklung, wie auch die Funktionsweise neuartiger Rechensysteme ist relevant, um die Grenzen der KI zu beschreiben. Wesen, welche wir Menschen als Intelligent ansehen, haben eine Arbeitsweise aus Intuitionen und Erfahrungen und sind darauf konkretisiert aus diesen zu lernen. Insbesondere die Erfahrungen beeinflussen die Systeme, um Lernerfolge zu erlangen, da diese durch das schon gelernte weiter auf- bauen können. Hierdurch entsteht ein sogenanntes Expertensystem, welches in der Abbildung 3 bildlich veranschaulicht ist.
Abbildung in dieser Leseprobe nicht enthalten
Abbildung 3 Expertensystem
Das Expertensystem lässt sich in mehrere Schichten unterteilen. Jede Schicht baut aus den Erfahrungen und Ergebnissen ihrer unteren auf. Wenn man die erste und die letzte Schicht, sprich die Beginner- und die Expertenschicht, miteinander in Vergleich stellt, wird deutlich, dass in der ersten Schicht das Verhalten der Systeme darauf aus- gerichtet ist, kontextfreie Abläufe zu beschreiben. Sobald das System hingegen in der Expertenschicht angekommen ist, wird es die zu Beginn erlernten Abläufe instinktiv in sein Verhalten aufnehmen. Die Tatsache, dass die Schichten aufeinander auf- bauen, motiviert die Schichten dazu weiter zu streben, ohne sich darüber bewusst zu sein, welcher Sinn eigentlich hinter jedem ausgeführten Arbeitsschritt steckt.
Somit stellt sich die Frage, ob Computer die kontextbezogenen Abläufe, welche jedes Lebewesen durchläuft, eigenständig simulieren können. Dieser Fakt steht der mo- mentanen KI-Forschung noch zur Weiterentwicklung im Weg. (P. Schwitter)
3 Effekte der KI auf Online Medien
In diesem Kapitel werden die unterschiedlichsten Arten von Online Medien unter- sucht, um herauszufinden inwiefern der Einsatz von KI diese Medien verändert hat. Zu diesen Medien gehören:
- Soziale Netzwerke, wie Facebook und Instagram
- Streamingdienste, wie Netflix und Spotify
- Electronic Commerce, wie Amazon (mit seinen Eigenprodukten)
- Chatbots, zur Kontaktaufnahme im Kundenservice
3.1 Soziale Netzwerke
Besonders bekannt unter Online Medien sind die Sozialen Netzwerke (engl. Social Networks) . Diese gehören zu den gängigsten Anwendungen im Internet und haben eine massive Wachstumsrate. Da der Mensch als ein soziales Lebewesen bekannt ist, sind Kontakte und Interaktionen mit anderen Personen relevant für den Lebensweg des Menschen. Es gibt unterschiedliche Arten von Beziehungen zwischen Menschen. Die üblichsten Arten von Beziehungen sind zum einem die familiären Beziehungen und zum anderen die freundschaftlichen Beziehungen. Der große Unterschied dieser Beziehungsarten ist es, dass die familiären Beziehungen schon bei der Geburt, und somit auch über die Verwandtschaft, festgelegt sind. Die freundschaftlichen Bezie- hungen dagegen sind nicht von der Abstammung vorgegeben und müssen individuell aufgebaut und gepflegt werden, um sie stabil zu erhalten. Zudem differenzieren sie sich in der Intensivität der Beziehung und werden unter engen- oder lockeren Freund- schaften eingeordnet. Der Bindungsgrad ist bei Bekanntheitsbeziehungen am ge- ringsten, da diese oftmals nur auf gleichen Interessen, Hobbys oder demselben Ar- beitsplatz aufbauen und somit kaum private Kontakte miteinschließen. Prinzipiell kann man den Freundschaftsaufbauprozess aus zwei Sichtweisen betrachten:
- Soziale Bedürfnisse (eng. social needs)
Bei den sozialen Bedürfnissen geht man davon aus, dass die Menschen Beziehun- gen bilden, um den Bedarf an Intimität und Selbstwertschätzung zu stillen. Durch Untersuchungen wurde festgestellt, dass Menschen, die ein geringes Selbstver- trauen besitzen eher weniger Freunde haben und somit einsamer sind. Dieser Fakt ist ausschlaggebend dafür, dass bei der Ermittlung Sozialer Netzwerke die unterschiedlichsten Merkmale einer Person bei der Erhebung berücksichtigt wer- den sollen.
[...]
-
-
-
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X. -
-
¡Carge sus propios textos! Gane dinero y un iPhone X.