范文健康探索娱乐情感热点
投稿投诉
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文
国学影视

这个懂中文的AI高手,画出的高山明月太惊艳!中英双语模型已开源

  编辑:好困  【新智元导读】AIGC 如火如荼发展的当下,中文世界的创作者常有几大痛点:思考英文Prompts准确表达的绞尽脑汁,翻译软件词不达意的尴尬,精细构思的 Prompts 在画面生成中找不到一丝痕迹,亦或面对文化误解中的「中国风」哭笑不得……
  日前,智源研究院大模型研究团队开源最新双语 AltDiffusion 模型,为中文世界带来专业级 AI 文图创作的强劲动力:
  支持精细长中文 Prompts 高级创作;无需文化转译,从原汁原味中国话直达形神兼备中国画;且在绘画水平上达到低门槛中英对齐原版 Stable Diffusion 级震撼视效,可以说是讲中文的世界级 AI 绘画高手。
  创新模型 AltCLIP 为这一工作的基石,为原 CLIP 模型补齐更强的跨语言三大能力。AltDiffusion 和 AltCLIP 模型均为多语言模型,中英双语为第一阶段工作,代码与模型已开源。
  AltDiffusion
  https://github.com/FlagAI-Open/FlagAI/tree/master/examples/AltDiffusion
  AltCLIP
  https://github.com/FlagAI-Open/FlagAI/examples/AltCLIP
  HuggingFace space试玩地址:
  https://huggingface.co/spaces/BAAI/bilingual_stable_diffusion
  技术报告
  https://arxiv.org/abs/2211.06679  专业级中文 AltDiffusion——长Prompt精细绘画 + 原生中国风,满足中文AI创作高手的高需求
  得益于以 AltCLIP 为基础的强大中英双语言对齐能力,AltDiffusion 达到近似于 Stable Diffusion 程度的视效水平,尤其具备更懂中国话、更善中国画的独特优势,非常值得专业级中文AI文图创作者期待。 1. 长Prompt生成,画面效果毫不逊色
  Prompt长短是检验模型文图生成能力的分水岭,越长的Prompt,越考验语言理解、图文对齐和跨语言这三大能力。
  在同样的中英文长 Prompt 输入调校下,AltDiffusion 在不少图片生成案例中表现力甚至更胜一筹:元素构成丰富精彩、细节描摹细腻精准。
  左滑一览主流模型同主题创作效果
  ▽
  2. 更懂中国话,更善中国画
  除中英文 Prompts 输入表现近似之外,AltDiffusion 还能补齐西方世界里中国画风的不足,利用中文图文对继续微调出中文特色的生成,例如国画风格生成模型,产出真正的「中国风」。
  左滑饱览旖旎国风美
  ▽
  AltDiffusion 更懂中文,在中国文化语境中的意义描摹上指哪打哪,秒懂创作者意图。例如对「唐朝盛景」的描绘,避免出现因文化误解而产生的跑题情况。
  ▽
  尤其对原生于中国文化的概念,理解与表现更为精确,得以避免「日本风」与「中国风」混淆,令人啼笑皆非的状况。例如,与Stable Diffusion在中英文输入对应唐装人物风格的Prompts,差异一目了然:
  左滑对比两种「中国风」
  ▽
  在特定风格的生成中,会原生以中文文化语境为身份主体,进行风格创作,例如对于下面带有「古建筑」的prompt,会默认生成中国古代建筑。在创作风格上更加贴合中文创作者身份。
  ▽
  3. 中英双语,生成效果对齐
  AltDiffusion基于Stable Diffusion,通过将原来Stable Diffusion中的CLIP替换成AltCLIP,并且用中英文图文对对模型进行进一步的训练得到。得益于 AltCLIP 强大的语言对齐能力,AltDiffusion 的生成效果在英文上与 Stable Diffusion 很接近,在中英文双语的表现上也体现了一致性。
  如「戴帽子小狗」的同义中英文Prompts输入AltDiffusion后,生成画面效果基本对齐,一致性极高:
  ▽
  在对「男孩」的画面增加描述词为「中国男孩」之后,在原小男孩形象基础上,精准调整成典型「中国」孩子,在语言控制生成中展现出极佳语言理解能力和精准的生成表达结果。
  ▽
  打通StableDiffusion原生态 ——丰富生态工具与PromptsBook应用,可玩性极佳特别值得一提的是 AltDiffusion 的生态打通能力:所有支持Stable Diffusion的工具如Stable Diffusion WebUI,DreamBooth等都可应用在我们的中英双语 Diffusion 模型上,为中文AI创作提供了丰富选择:
  1. Stable Diffusion WebUI
  一个优秀的文图生成、文图编辑的网页工具;当我们把北大夜景图霍格沃茨(prompt: Hogwarts)化,瞬间即可呈现梦幻的魔法世界;
  左滑直通霍格沃茨
  ▽
  2. DreamBooth
  通过少量样本对模型进行调试以生成特定的风格的工具;通过这一工具,在AltDiffusion上利用少量中文图片即可生成特定风格,比如「大闹天宫」风格。
  ▽
  3. 充分利用社区Stable Prompts Book
  Prompts 对于生成模型非常重要,社区用户通过大量 prompts 尝试,积累出丰富的生成效果案例。这些宝贵的 prompts 经验,对于 AltDiffusion 用户几乎全都适用!
  此外,还可以通过混合中英文方式去搭配一些神奇的风格和元素,或继续挖掘对AltDiffusion适用的中文Prompts。
  4. 方便中文创作者微调
  开源的AltDiffusion提供了中文生成模型的一个基础,大家可以在这个基础上用更多特定领域的中文数据进行模型微调,方便中文创作者表达。
  以首个双语 AltCLIP 为基石 ——全面增强跨语言三大能力,中英对齐、中文更优,极低门槛
  语言理解,图文对齐,跨语言能力,是跨语言研究必备的三种能力。
  AltDiffusion 的诸多专业级能力,源于 AltCLIP 以创新性换塔思路,在这三大能力上全面增强:与原 CLIP 中英文语言对齐能力大大提高,可以无缝接入 Stable Diffusion 等所有建立在原 CLIP 上的模型和生态工具;同时赋予其强悍的中文能力,在多项数据集取得中文更优效果。(详细解读请参考技术报告)
  值得一提的是,这种对齐方法对训练多语言多模态表征模型的门槛大大降低,相对于重新去做中文或者英文的图文对预训练,只需约 1% 的计算资源与图文对数据。
  在全面CLIP benchmark中取得了和英文原版一致效果
  在一些检索类数据集上如Flicker-30K上超过了原版
  ▽
  Flicker-30K上表现效果超过原版CLIP
  ▽
  中文ImageNet上zero-shot结果最优
  ▽
  参考资料:
  https://mp.weixin.qq.com/s/mQ0CcTlkrMalZhPSMg4K4Q

SoC最新手机处理器份额联发科稳居第1华为第4据TheElec获悉,三星GalaxyS23系列将主要使用高通骁龙8Gen2处理器,而自家的Exynos平台以后可能主要给中端机用,而不是旗舰。刚巧今天看到研究机构Counterp优衣库亮相第五届进博会,巨型魔力保暖内衣迎来首展新京报贝壳财经讯(记者于梦儿)11月5日,第五届中国国际进口博览会(以下简称进博会)正式开展。服饰零售品牌优衣库揭晓了品牌第三次进博之旅的面纱。新京报贝壳财经记者获悉,为响应本届进存在外星人的可能性有多大?到底有没有地外生命?这个问题,很让人遐想。01hr以我们现有理论,在一开始,宇宙里的一切都在一个奇点里。奇点没有空间,没有时间,是一个密度无限大,温度无限高,时空曲率也无限大的点。金鹰奖开幕式太寒酸!沈梦辰像换张脸,汪涵被发型坑,李小萌圆润在昨天的金鹰电影节也闹出了很大的乌龙事件,原本以为今年的金鹰女神是孙怡,因为大家都被孙怡的舞台视频吸引住了,不过孙怡很快否认不是自己,品牌方也否认了是孙怡!看到孙怡这身礼服照真的太美妆类直播文案训练四欢迎进入直播间的姐妹们,我是某某,我是一个有多年经验的资深影视工作者,本职工作呢,是在影视公司上班,在直播上是一个小白,开直播呢,主要的原因就是,平时经常会有朋友找我分享一些美容护我来人间一趟人为什么是人?人有感情,所以是人!那人活着的意义到底是什么?对于普通人来说活着的意义可能只是把养我的人养到老,把我要养的人养到大!对于大心胸,大智慧的人来说他们活着的意义是改变世界那些人间清醒的话语,读懂了,你也就真的长大了我是用文字温暖你的夕言,点击上方蓝色按键关注我哦。什么是人间清醒,我觉得,就是经历了人世间的纷繁复杂后,看清了许多从前没有看清的事实,也明白了许多从前没有明白的道理。这种清醒,大多最好的在乎,是把你放在心上陪你从脆弱到坚强,我会一直在你我在茫茫人海中相遇,路过亿万星辰,踏过山川河流,在某一时间,有了一面之缘,又在某一地点,有了深厚情谊。有些人,像是落在心头的一滴水珠,从此,干涸的心灵中国男篮12人大名单基本确定!一人已经离队杜锋选择不多了最近CBA联赛暂时休赛,因为部分球员要有中国男篮备战世界杯预选赛的任务。此前中国篮球之队官方微博已经发布消息,集训的17人大名单公布,当时引起热议。球迷们讨论的无非就是谁有实力没有被全红婵替换,张家齐退役读书?现身回应,又增添了新身份竞技体育是无情的,优胜劣汰,哪怕很多运动员还很优势,但是因为身边有更加优秀的运动员出现的时候,她们的处境也会变得越来越微妙,比如说中国跳水队的17岁小花张家齐。17岁,一个大多数人如果秦始皇穿越成为汉献帝,能夺回皇权结束东汉乱世吗?头条创作挑战赛秦始皇,中国历史上第一个皇帝,自前230年至前221年,先后灭韩赵魏楚燕齐六国,完成了统一中国大业,建立起一个中央集权的统一的多民族国家秦朝。在秦始皇统治期间,在中央
央行年内第二次降准落地新增5000亿元支持实体经济昨天(5日),中国人民银行正式降低金融机构存款准备金率0。25个百分点,这是今年内央行第二次降准。这次降准共计释放长期资金约5000亿元。下调后,金融机构加权平均存款准备金率约为7快去做这件事,关系你2023年工资中新网12月7日电(记者李金磊)目前,2023年度个税专项附加扣除已经开始确认了。关系着各位2023年工资,务必引起重视。个税app截图。专项附加扣除已增至7项随着3岁以下婴幼儿照光大银行下跌41,净资产7。35元,股价3。04元,这是机会吗?光大银行的股票价格从2020年开始出现了持续性的下跌,连续性的阴跌,下跌的时间已经达到了24个月之久,下跌的幅度也达到了41。36。它的每股净资产达到了7。35元,但是他阶段性的股万亿长时储能市场,政策加持下为何还很难赚钱摘要近年来,全国范围出台了高达600多项储能相关政策。在政策加持下,资本也开始蜂拥而入,出现强劲增长。长时储能一边被市场和资本长期看好,另一边却存在诸多风险和投资障碍。绿能储能,被5000亿规模!世界之最!平顶山尼龙航母能否铸就?在平顶山市东部平原地带,有一个国家战略性新兴产业集群中国尼龙城,发展目标是2035年实现营收5000亿元,形成世界规模最大竞争力最强的尼龙产业集群。平顶山能否铸就这艘尼龙航母,已成名和利,救不了见色忘义的王迅离开极限挑战的男人帮,似乎最近过得都不太好。孙红雷除了一部扫黑风暴,基本没什么活动。黄渤新电影亏得底儿掉,豆瓣4。3分登上烂片榜。黄磊的综艺向往的生活变成生活流水账,食之无味,弃之哈亚学学与裁判的说话之道!国际足联对乌拉圭球员展开调查卡塔尔世界杯进入第一个休赛日,各类场外新闻依然霸占媒体头条。历经四天等待,国际足联对乌拉圭与加纳一战赛后的争端挥出第一棒希门尼斯卡瓦尼穆斯莱拉与戈丁四位球员,因为在终场哨响后围攻裁龙湾镇视频加载中龙湾镇,时长共3分15秒。龙湾镇坚持党建引领,充分发挥生态优势和资源优势,与驻镇帮镇扶村工作队形成有效合力,推动南药产业健康可持续发展利用风车山生态旅游区等文旅资源,以乡长得丑演戏烂,爹妈强捧不红的5位星二代,注定走不远文嘻合说编辑嘻合说娱乐圈中有一条默认的准则小红靠捧,大红靠命。明明有些明星颜值和演技都在线,现实生活中人品也不错,但就是不红,出演多部剧到头来只能混个脸熟,观众总说那个谁,那个谁。宁波远洋综合性航运龙头业绩稳增,聚焦主业协同发展航运,是全球贸易的动脉与毛细血管,在现代货物运输中具有不可替代的地位。2022年110月,我国水路货运量货物周转量同比分别增长4。7和4。4,港口货物吞吐量集装箱吞吐量同比分别增长8岁女孩突然长高胸部发育,竟与饭盒有关?最近遇到了一位特殊的小患者,让我们感到非常惋惜。女孩名叫安安,今年8岁,身高却已经有130cm了,超越了大部分同龄人。身高优越看起来本是一件好事,但是安安妈妈却不这样认为我突然发现