#aigc

[nemuiyocom]

chainsaw man

[yilanmotion]

summer time🍹💙

[zmzart]

[cookeccc]

MJ｜Alien Bistro

[secretgardenfox]

Design: Chinese ceramic water cup, what do you want to drink from it~ Soak wolfberry in warm water or boil it in cold water?

[renbuhui]

iPad wall papers

Clouds on flatland

[sickbabyada]

Magazine cover

[sunnygao]

What a wonderful day at #SegmentFault #AIGC #Hackathon #Beijing （在 中關村創業大街） https://www.instagram.com/p/CrEVDhNPybJ/?igshid=NGJjMDIxMWI=

[macro816]

Transgender models / Male to Female

[tonywang71]

防止利用AIGC制造虚假信息

这是信息爆炸的时代，这是倍感无力的时代。没有人能够完整地掌握各种信息，就算是搜索引擎，大模型，也难以做到。更为关键的是，这些信息里面还充杂着各种虚假和错误。

2022年6月，互联网上爆出了 “折毛事件”。折毛是维基百科的贡献者，她在3年多的时间里，在中文维基百科上伪造了200多篇古俄罗斯历史相关条目，写下了上百万字。

如果不是有人为了创作相关的小说，专门进行了深入研究，恐怕时至今日，折毛的行为也不会被发现。相反地，她可能会进一步纠错和丰富内容，使这个体系越来越完善。

经常使用ChatGPT的用户都曾体验过，有时候它会一本正经地胡说八道。比如你询问关于 “黄鹤楼” 最有名的唐诗，它很可能会这样回答：“关于黄鹤楼的诗歌中，最著名的是唐代诗人崔颢的《黄鹤楼》。以下是全诗：黄鹤楼中吹玉笛， 江城五月落梅花。 孤帆远影碧空尽， 唯见长江天际流。”

虽然看起来很可笑，但是不了解《黄鹤楼》的人，很可能被它折服。更何况，我们不熟悉的领域是那么多，不进行交叉比对，你很可能就被AI糊弄了过去。

自ChatGPT发布以来，AI的发展日新月异。现在已经能够生成以假乱真的图片、视频以及音频了，AIGC 接近真实的能力日益提升。这些技术如果被滥用，会产生大量的内容。出于种种目的，其中很多可能是虚假的、错误的、带有某种引导目的的，如虚假的图片、捏造的事实等等。

并且，随着这些内容被发布并传播，它们又会被当作新的材料为 搜索引擎 或 大模型 所使用，这样就造成了虚假信息增长的正反馈。以虚假信息为基础，经过再次加工，又产生了新的内容。内容越来越丰富，体系越来越完整，越来越难辨真假，所谓三人成虎。

如果我们不能有效���控制或者减少虚假内容的发布，我们很可能会淹没在亦真亦幻的信息海洋中。更有可能，经过精心地策划，有组织地实施，可以迅速传播难以鉴别的谣言，并且谣言之间还能相互佐证。

如何才能防止AI生成内容的滥用？我认为需要从法律法规的角度入手，要求大模型生成的内容必须添加数字水印。数字水印必须是难以更改、去除和伪造的，并且在压缩、转换等过程中不易灭失的。

对于图像、视频、音频文件的编码，目前已经有较为成熟的数字水印技术。对于长文本，数字水印应该也可以行得通，毕竟有足够的空间去埋藏水印。但对于短文本，似乎目前没有好的方法。而且由于大模型本身就是基于概率进行推理的，所以理论上讲，错误是不可避免的。如果不能识别出AI所生成的文本，那么日积月累，就很可能产生出大量不可靠的信息。

从法律法规上来规定，AI所产生出的内容必须要添加水印，同时还要提供检验方法或者接口。这样可以有效且方便地让人们辨识，如审读论文、真实性核查等；也可以帮助搜索引擎和机器学习清洗数据。

从可行性上来讲，大数据模型目前大部分都是巨无霸公司在做，从监管上具有可执行性。中小规模的大模型开发者虽然难以监管，但是受制于算力影响，造成的影响应该不会很大。至于众多的应用服务提供商，它们依赖的是大公司所提供的接口或环境，通过对大公司的监管，可以间接地强制添加水印和识别输入。

有一种情况要特别注意，就是存在着不受监督的国家或者大型组织，他们是有能力大规模生产虚假内容的，并且出于某种目的，会生产并传播这些内容。在这种情况下，如何发展针对AIGC内容的识别技术，以及如何有效识别并控制其传播等技术会更加关键。

[yilanmotion]

夏 プール メロンソーダー🍈🫧

[virtualrealitynewstoday]

探索元宇宙：Readyverse Studios新大逃殺遊戲預告片公開

Readyverse Studios 三月份宣布Ready Player One 創作者宣布推出「OPEN」新大逃殺遊戲，而經過兩月後其正式今天向公眾展示了其最新的用戶體驗預告片，這標誌著其元宇宙遊戲探索平台「The…

[cookeccc]

MJ｜Pink Debate

[hibem4-blog]

Female astronaut portrait exploration series

[wuchen2401]

一个关于小女孩成长的故事，原型改编于纪录片《干涸的河》中石凤鸣，祝愿天下所有小朋友都可以快乐长大。

A story about a little girl's growth, inspired by the documentary "Dry River" featuring Shi Fengming. Wishing all children around the world a happy upbringing.

制作by midjourney+pixverse+capcut+魔音工坊+网易天音

[macro816]

我，不再是我 / My transformation life