AYX爱游戏,爱游戏体育官方网站,爱游戏体育APP

　　记者下单购买了一款价格为16.8元的AI数字人视频生成软件，店家发送了一个需要通过浏览器下载安装的应用包；在安装过程中，手机系统提示该软件存在风险。安装成功后，记者又上传了随机在短视频平台下载的某知名女星参加官方活动时发布的采访视频，并根据软件提示截取了女星的部分声音。添加“这款产品不错，值得推荐”的文案并更换背景后，短短一分钟，就生成了一段该明星的代言视频。视频中，明星嘴型和文案内容基本吻合，但清晰度不高。

　　在AI数字人流量的带动下，还有博主做起了代理生意。一名直播软件和AI数字人制作商介绍，目前很多店铺都在做生成软件代理。一边制作AI数字人，一边销售制作软件。据该制造商发来的软件简介显示，在其销售的软件中上传一段30秒的视频和声音，添加文案后就可以生成高还原度的AI数字人主播；开启知识功能后，还能实现AI数字人在直播间与粉丝互动。“直播系统是上传一个形象，之后输入文案就可以一直说直播间内容。明星AI数字人就是起到引流的作用。软件制作的AI数字人视频清晰度很高，直播肯定够用。不需要后期系统维护。只要把软件和密钥卖出去就行。”该经销商表示，代理的费用是9800元一年，可以提供30个账号的密钥，视频及数字人制作不限次数。如果对外销售的线元/年。

　　据人民法院报报道，近日，山东省宁阳县人民法院审结一起利用AI换脸、语音合成等技术，以网恋为名实施的诈骗案。孙某在网络游戏中结识李某后，虚构“白富美”人设，通过伪造身份证件、利用虚拟人脸技术与李某视频聊天，成功骗取李某信任并与其确立恋爱关系。自2024年11月起，孙某虚构各种事由向李某索取钱财，并使用录音合成软件制作虚假对话，谎称将获得巨额拆迁款，诱使李某多次转账并为其购买高端手机，诈骗金额累计近13万元，财物得手后孙某失联。法院审理后认为，被告人孙某以非法占有为目的，利用AI换脸、语音合成等新技术手段，虚构事实、隐瞒真相，骗取他人财物，数额巨大，其行为构成诈骗罪。最终法院作出孙某犯诈骗罪，判处有期徒刑三年、缓刑四年，并处罚金2万元的判决。

　　实际上，在规范AI生成内容上，我国已有多部法律法规做出要求。《中华人民共和国网络安全法》和《生成式人工智能服务管理暂行办法》中提到，内容涉及个人信息的，要履行个人信息保护义务。提供者应当按照相关要求对图片、视频等生成内容进行标识。提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。9月1日起施行的《人工智能生成合成内容标识办法》则强调，任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识，不得通过不正当标识手段损害他人合法权益。

　　在法律层面，需完善针对深度伪造技术的专项立法，明确技术使用的合法边界与侵权责任，对非法获取数据、未经授权生成仿真形象、利用伪造内容实施诈骗等行为构建全链条追责体系，提升违法成本。在技术层面，则应推动AI检测与身份核验技术的迭代升级。一方面，研发高精度AI生成内容识别工具，通过生物特征动态分析、环境逻辑校验等技术手段，快速甄别虚假音视频；另一方面，强化平台身份认证机制，采用多模态生物识别、区块链存证等技术，确保用户身份真实可信。在监管层面，需建立跨部门协同治理机制。网信、公安、市场监管等部门应联合开展专项整治行动，重点打击AI换脸软件非法交易、伪造证件服务等灰色产业，同时压实平台主体责任，要求其完善内容审核规则，对疑似伪造内容实施标签化警示或下架处理。在公众意识层面，需加强社会教育引导。通过案例警示、技术科普等方式，提升公众对AI伪造技术的辨识能力，强化个人信息保护意识，倡导“不轻信、不传播、不参与”的防范原则，形成全社会共同技术滥用的氛围。

　　对此，相关软件销售者和发布平台，是否也应对侵权行为承担相应责任？河南泽槿律师事务所主任付建认为，根据《互联网信息服务深度合成管理规定》，这类服务商需落实信息安全主体责任，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。市面上很多商家无需授权就能制作任何人的换脸视频，还不做标识，明显违反该规定。网信等部门可责令其整改、暂停服务。如平台发现疑似AI生成内容未检测或者提示用户可能有诈骗风险的，或者经用户举报投诉后未处理的，同样属于未完全履行审查义务，对于损失扩大部分承担相应民事赔偿责任，也可能面临警告、罚款等行政处罚。若明知用户买软件、做换脸视频是为了诈骗、制作淫秽内容等，仍售卖软件或提供制作服务，严重的会构成帮助信息网络犯罪活动罪，需承担刑事责任。要是软件使用者自身利用业务制作传播淫秽换脸视频牟利，还可能触犯制作、传播淫秽物品牟利罪。