note
文章目录
Pythia — 大模型该如何训练？
《Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling》
Llama 2 — 开源模型之王
《Llama 2: Open Foundation and Fine-Tuned Chat Models》
QLoRA — 高效微调
《QLoRA: Efficient Finetuning of Quantized LLMs》
BloombergGPT — 垂直领域大模型翘楚
《BloombergGPT: A Large Language Model for Finance》
DPO — 对 RLHF 的革命性技术
《Direct Preference Optimization: Your Language Model is Secretly a Reward Model》
Mistral 7B — “小模型”的典范
《Mistral 7B》
Orca 2 — “小模型”如何推理？
《Orca 2: Teaching Small Language Models How to Reason》
CNN vs Transformer — CNN 也不弱于 ViT
《ConvNets Match Vision Transformers at Scale》
SAM — 分割一切！
《Segment Anything》
Emu Video — 令人印象深刻的文本到视频生成模型
《Emu Video: Factorizing Text-to-Video Generation by Explicit Image Conditioning》
附：2023年openai大事记
22年11月30日，ChatGPT问世
23年2月1日，ChatGPT plus 版本上线
23年2月7日，微软宣布并发布集成ChatGPT功能的New Bing
23年2月7日，谷歌Bard首秀Demo并翻车
23年2月24日，Meta发布LLaMa 并开源
23年3月1日，OpenAI推出ChatGPT API，供开发者集成
23年3月14日 OpenAI发布GPT-4,并在ChatGPT和Bing中支持
23年3月16日，百度发布文心一言
23年上半年，国内百模大战开启
2023年3月14日，斯坦福发布Alpaca
23年3月17日，微软GPT-4 Office全家桶发布
23年3月21日，Midjourney v5版本画出100%逼真情侣
23年3月22日，Runway 重磅发布Gen-2，文生视频里程碑
23年3月24日，ChatGPT可以联网、添加插件
23年3月29日，千名大佬发联名信，叫停GPT-5超强大模型
23年3月31日，意大利暂时禁止ChatGPT使用
23年4月6日，Meta发布可以分割一切的Segment Anything
23年4月20日，Google Brain与DeepMind 合并成立 Google DeepMind
23年5月5日，微软BingChat全面开放
23年5月15日，OpenAI发布ChatGPT的iOs应用
2023年5月18日，特斯拉人形机器人进化
23年5月30日，谷歌宣布开放「生成式搜索平台」
23年6月14日，ChatGPT 大更新，API能力升级还降价
23年7月13日，马斯克高调官宣成立xAI
23年7月19日，Llama 2开源可商用
23年 8月10日，斯坦福「虚拟小镇」开源，引爆智能体研究
23年8月23日 GPT-3.5 Turbo正式开放微调功能
23年8月29日，OpenAI发布企业版ChatGPT：没有限制、更快、更强、更安全的GPT-4
23年9月21日，OpenAI推出DALL·E 3，并将原生集成至ChatGPT中
23年10月17日，文心大模型4.0发布
23年10月20日，ChatGPT全球宕机，API崩溃
23年10月29日，完全版GPT-4智能体:图像生成+插件+代码运行器+文件上传
23年11月7日，OpenAl首届开发者日官宣GPTs商店，推出更强版GPT-4 turbo
23年11月15日，奥特曼被OpenAI董事会开除系列事件
23年11月29日 文生视频产品Pika 1.0正式发布
23年12月6日，谷歌DeepMind发布Gemini系列模型
23年12月10日，最新开源模型Mixtral 超越LLama2和GPT-3.5
23年12月14日，谷歌官宣开放Gemini API，奥特曼宣布ChatGPT Plus恢复订阅
23年12月21日，MidJounery V6 发布
Reference
[1] 首席AI教育者Sebastian Raschka博士推荐的2023年最具影响力的 10 篇AI论文
版权归原作者 山顶夕景 所有， 如有侵权，请联系我们删除。