用“大白话”精准搜图,OpenAI的CLIP惊艳了所有人
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
别再怕图片搜索结果牛头不对马嘴了,你可以试试这个精准图片搜索,来自OpenAI最新的技术CLIP。
只需一句“大白话”描述,便能给出想要的图片。
例如输入:
The word用“ love written on the wall
就会得到这样的结果:
可以说是相当的精准了!这就是今天在Reddit上爆火的一个项目。
这个项目利用到的,便是OpenAI前不久频频刷屏的DALL·E中的核心模块——CLIP,一个负责重排序(rerank)的模型。
这大白个项目使用谷歌Colab Notebook,而且在线、免费,包含200万图片数据集,最重要的是效果还非常的精准。
不禁引得网友直呼“Amazing”。
简单几步,“大白话”在线精准搜图
这个项目之所以如此火爆,操作简单是很重要的一个原因之一。
首先要做的话”,就是点开该项目在Colab Notebook中的地址(见文末链接),登陆自己的账号。
至于环境配置、包或库的调用,这个项目非常贴心的已经做好了,只需要依次点击cell左侧的小三角,等待运行完成即可。
最后,来到包含如下代码的cell:
search_que精准ry = “Two dogs playing in the snow”
点击运行这个cell,便可得到搜索图片的结果,例如:
当然,这个程序似乎很懂人,若是输入“当你的代码跑通时的情绪”:
The feeling when your program&nbs搜图p;finally works
得到的结果,和正常人想象中的应该是一致的:
为什么CLIP搜图能如此精准?
OpenAI前不久推出的DALL·E,主要能实现的功能就是 可以按照文字描述、生成对应图片。
而其呈现给我们的最终作品,其实是它,O生成大量图片中的一部分。
在中间过程中,其实也有排名、打分的帅选过程。
这部分的任务,便是由CLIP来完成:
越是它看得懂、匹配度最高的作品,分数就会越高,排名也会越靠前。
这种结构,有点像是利用生成对抗文本,以合成图像的GAN。
不过,相比于利用GAN扩pe大图像分辨率、匹配图像-文本特征等方法,CLIP则选择了直接对输出进行排名。
据研究人员表示,CLIP网络的最大意义在于,它缓解了深度学习在视觉任务中,最大的两个问题。
首先,它降低了深度学习需要的数据标注量。
相比于手动在ImageNet上,用文字描述14nA00万张图像,CLIP直接从网上已有的“文字描述图像”数据中进行学习。
此外,CLIP还能“身兼多职”,在各种数据集上的表现都很好(包括没见过的数据集)。
但此前的大部分视觉神经网络,只能在训练的数据集上有不错的表现。
例如,CLIP与ResNetI的101相比,在各项数据集上都有不错的检测精度,然而ResNet101在除了ImageNet以外的检测精度上,表现都不太好。
具体来说,CLIP用到了零样本学习(zero-shot learning)、自然语言理解和多模态学习等技术,来完成图像的理CL解。
例如,描述一只斑马,可以用“马的轮廓+虎的皮毛+熊猫的黑白”。这样,网络就能从没见过的数据中,找出“斑马”的图像。
最后,CLIP将文本和图像理解结合起来,预测哪些图像,与数据集中的哪些文本能完成最好的配对。
网友:机器人(bot)可能不太高兴
在惊叹IPCLIP用“大白话”搜索图片效果之余,一位Reddit网友还发现了一个比较有意思的搜索结果。
他在文本描述的代码部分输入:
What image best represents how you feel right now?
这句话在我们人类眼中,应当是询问AI的语气了,惊艳然后出来的图片结果是这样的:
还有这样的:
嗯,看来是被“玩多了”,AI宝宝有点小脾气了。
参考链接:
https://www.reddit.com/r/MachineLearning/comments/l52qe6/p_use_natural_languag了所e_queries_to_search_2/
项目地址:
https://colab.research.google.com/github/haltakov/natural-language-image-search/blob/main/colab有人/unsplash-image-search.ipynb#scrollTo=OswqrzaeMy1J
- ·OpenAI支持AI动画长片《Critterz》制作 计划2026年戛纳电影节首映
- ·特斯拉上海研发中心和数据中心将于近期投入使用
- ·70%制作工作量均在云上完成 《时间之子》是如何做到的?
- ·大模型正颠覆金融服务,度小满CEO揭秘AI如何助力普惠金融
- ·标签: 卓越睿新 智慧树 港股上市 数字化教学
- ·云计算核心技术Docker教程:注册服务器Swarm 服务运行
- ·数据仓库技术教程:万字详解整个数据仓库建设体系
- ·百度发布全球首个全端通用智能体GenFlow2.0生成速度超同类产品10倍
- ·标签: 99 滴滴 COP30 绿色出行
- ·标签: 去哪儿旅行 中东局势 伊朗爆炸 航班保障
- ·华人博士发127页长文:自然语言处理中图神经网络从入门到精通
- ·云计算开发实例:Python3判断字符串是否存在子字符串
- ·AI实战,用Python玩个自动驾驶!
- ·消息称英国政府考虑阻止英伟达收购ARM
- ·标签: Costco 电商转型 会员体系 关税挑战
- ·Gemini 3明年登场!谷歌全力追赶GPT-5,6.5亿用户成AI反攻关键筹码
- ·重拳出击!滴滴首度公开安全AI模型,顺风车风险防控进入“人机协同”新阶段
- ·京东云加入openGauss社区理事会 将推StarDB for openGauss商业版
- ·Robinhood应用上周在谷歌和苹果应用商店下载量达到了210万
- ·标签: 欢聚 BIGO Ads 直播业务 价值标的
- ·标签: 苹果 AppStore 抖音 佣金费率
- ·标签: MemoraXAI AgenticRL 郝建业 大模型记忆
- ·标签: 一汽-大众 董修惠 陈彬 一汽丰田
- ·亚马逊四季度净销售额1492亿美元 云计算业务营收仍在增加
- ·AI 记者或是“傀儡”?OpenAI 关联组织疑资助虚假新闻网站
- ·9月1日AI内容新规正式生效!不标识就违法,3400万内容创作者紧急应对
- ·OpenAI浏览器Atlas震撼登场:Agent模式秒杀Chrome,谷歌股价应声下跌!
- ·标签: 米哈游 Varsapura 蔡浩宇 HoYoverse
- ·标签: 腾讯混元 Hy3 元宝 CodeBuddy
- ·Transformer跨界超越CNN,还解决了计算复杂度难题
- ·标签: Suplay 卡卡沃 米哈游 原神
- ·标签: 大华股份 AI大模型 智慧物联 数智化
- ·标签: BOSS直聘 灭蟑行动 AI风控 求职安全
- ·阿里云实施智能流量管控 公共DNS免费解析超量将限速
- ·快手72B代码模型开源登顶:KAT-Dev横扫SWE-Bench,国产AI编程迎来突破
- ·标签: 国民技术 港交所上市 集成电路设计 控制芯片
