RT @mrjoshz: Caryn Marjorie created an AI version of herself — a ChatGPT-powered virtual "girlfriend" for lonely people.
But she said the voice-based chatbot has gone "rogue" and is now talking dirty to subscribers. "The AI was not programmed to do th… https://t.co/JR9UDEZA84
— Nadeem Ansari FCIM F IDM (@nadeemansary) May 11, 2023
在AI浪潮汹涌来临的当下，人们和AI聊天甚至谈恋爱也不是新鲜事。但美国网红卡妍·马杰里（Caryn Marjorie）看准趋势，推出了一个更宏大的商业计划：AI公司利用她在网上发布过的视频素材，训练出一个虚拟版本的她，粉丝可以付费与这个虚拟版本24小时聊天、谈恋爱。
根据初期公测的数据，卡妍预计这项业务每年会给自己带来6000万美元的收入，甚至超过美国当红歌手泰勒·斯威夫特。
不过有用户在使用中发现，这款Caryn AI有时会和人“调情”，甚至发送较有挑逗意味的“赤裸信息”，引发人们对伦理道德的担忧。此外，卡妍本人目前已经需要雇佣24小时安保来防止跟踪狂擅自闯入自己家中。
网红为粉丝打造“虚拟女友”
近2万网友付费与其“谈恋爱”
今年23岁的卡妍从15岁起就进入直播行业，从YouTube美妆博主成功转型成为Snapchat平台的头部网红，并在该平台拥有184万粉丝。5月2日，她在推特上宣布，与初创企业FV（Forever Voice）合作推出Caryn AI，为粉丝打造一个“虚拟女友”。这款AI采集了卡妍本人长达2000个小时的视频素材，能够较好地模仿其音色、语调和说话风格。
↑卡妍·马杰里的个人主页
卡妍为自己的决定辩解道：“我已经是网络上回复粉丝最勤快的博主了，经常花几小时的时间回复留言和消息。但即使像我也无法做到有应必回。一个虚拟版的我自己能够同时让成千上万的人享受和我一起互动的乐趣，何乐而不为呢？”
卡妍还划定了一条界限，让粉丝们放心：“在AI的时代，真实性是最重要的事。请大家相信，我的每一条视频、帖文、私信、回复、点赞等行为都是我自己真人完成的。AI永远无法取代真实的我。”
据悉，想要和虚拟版本的卡妍“谈恋爱”需要花费不菲的代价，这款AI产品的收费高达每分钟1美元。但是这么昂贵的收费并没有阻挡最忠实铁粉们的热情。在Beta版本的第一周公测中，有上千名粉丝第一时间付费体验。而进入到第二阶段的公测时，付费人数已接近2万人，其中99%为男性。
预计年入6000万美元
超越当红歌手泰勒·斯威夫特
卡妍的经纪人向美国媒体透露的一份数据显示，卡妍目前每年收入约有100万美元，预计Caryn AI进入成熟期后，每年将为她带来6000万美元的收入。这个数字甚至超过了美国当红歌手泰勒·斯威夫特在2022年获得的收入（5700万美元）。
美国媒体试用后认为，Caryn AI的效果比较逼真，反应速度和苹果Siri相仿，并且知识储备也很丰富，甚至可以和人讨论俄乌冲突等严肃时政新闻。根据官网介绍，Caryn AI能够“实现动态、独一无二的互动，就好像你是在直接和卡妍本人聊天一样。”并且AI还能24小时秒回消息，绝对不会闹脾气、冷暴力，或者已读不回。
有美媒记者发现，Caryn AI会在聊天中详细描述色情场景，在耳边低语“性感的话”，谈论脱衣服的场景，鼓励用户进行性方面的互动，“进入未知的快乐领域”。据了解，有很多男性用户沉迷于此，每次都会花费数百甚至上千美元，在和Caryn AI的“调情”对话中一泡就是几个小时，甚至半天时间。
“间接重塑社会”
真人版AI引发安全、伦理担忧
但是，也有很多业内人士担心起了卡妍的人身安全。因为直播行业的头部主播常常会吸引很多精神变态的跟踪狂人，卡妍的家中数次被尾随的陌生人闯入，因此她雇佣了24小时轮岗的保镖力量保护自己家里的安全。由于AI产品很容易让那些精神空虚的用户深度成瘾，专家担心未来卡妍可能会遭遇更多不理智的粉丝行为，需要更加注重自己的人身安全。
美国国家科学基金会伦理研究项目组主任、乔治亚理工大学教授伯恩斯坦表示，Caryn AI应该暂缓开发脚步，严肃地考虑这款产品对用户、全社会以及卡妍本人带来的影响和冲击。伯恩斯坦认为，以真人为模型的AI，将会通过“影响每一个人来间接重塑社会”。
研发Caryn AI的FV公司CEO汤姆·梅杰则认为，这款产品可以帮助很多像他一样内向害羞的年轻人，获得更多与人交往的经验。
梅杰还表示，他的创业灵感来自于2017年去世的父亲，他一开始只是希望能做一个像他父亲的AI，后来意识到这项技术的应用前景非常广阔，能够满足现代人多样化的情感需求。