企业网站和信息化建设制度王也头像超清晰

企业网站和信息化建设制度,王也头像超清晰,做一元购物网站,seo外链资源简介 文章系统介绍了AI发展历程从规则系统到6710亿参数大模型的演进#xff0c;详细解析了大语言模型(LLM)的训练原理、Token处理机制以及Temperature与Top P参数对生成文本的影响。同时#xff0c;探讨了AI Chat产品的联网搜索、文件读取和记忆功能#xff0c;分析了全球A…简介文章系统介绍了AI发展历程从规则系统到6710亿参数大模型的演进详细解析了大语言模型(LLM)的训练原理、Token处理机制以及Temperature与Top P参数对生成文本的影响。同时探讨了AI Chat产品的联网搜索、文件读取和记忆功能分析了全球AI发展现状尤其是中美竞争态势以及美国对华AI芯片限制对中国产业的影响最后概述了中国主要AI公司及其模型特点。一、AI的分类AI的核心目标是让机器能够执行通常需要人类智能的任务例如语言理解、图像识别、复杂问题解决等。• 早期阶段以规则为基础的专家系统依赖预设的逻辑和规则。 ——规则库• 机器学习时代通过数据训练模型使机器能够从数据中学习规律。 ——几十、几百个参数• 深度学习时代利用神经网络模拟人脑的复杂结构处理更复杂的任务。 ——几百万个参数• 大模型时代以大规模数据和算力为基础构建通用性强、性能卓越的AI模型。——671b个参数6710亿AI分类如下生成式AI包括大语言模型GPT、deepseek、千问场景客服咨询、内容创作生图/生视频模型Sora、DALL-E、Midjourney如进行产品设计、影视预览。分析式AI视觉识别模型YOLO、ResNet场景如智能制造、医疗影像分析能准确辨别影像中的物体、人脸、文字等自动驾驶模型复合模型场景如无人配送、高级辅助驾驶。二、LLM是如何训练的LLM的训练过程通俗的表述可以参考下图。早些时候是通过监督学习明确告诉模型“香蕉是什么”后来模型生成多个答案人类通过来对答案进行优劣排序的方式训练模型再后来模型知道了一些人类的偏好通过强化学习生成答案人类通过一些打分机制使模型进一步自我迭代进化。早在2018年时GPT的参数量约为1.17亿预训练数据量约5GB2019年GPT-2参数量为15亿预训练数据量为40GB2020年GPT-3的参数量为1750亿预训练数据为45TB。如今GPT-5参数量预估约为100万亿。ChatGPT可以实现对用户真实意图的理解上下文衔接能和及对知识和逻辑的理解能力。在互联网时代诞生的APP功能越来越复杂有限的屏幕难以呈现复杂的功能未来APP极有可能演进为极简页面的对话形式比如人们在淘宝对话框输入想要的穿搭风格淘宝自动搜索相应的服装套件并将其放入购物车。三、LLM中的TokenToken是大型语言模型处理文本的最小单位。由于模型本身无法直接理解文字因此需要将文本切分成一个个 Token再将 Token转换为数字向量进行运算。不同的模型使用不同的“分词器”Tokenizer来定义Token不同模型中同样的文字编码不同。 例如对于英文Hello World GPT-4o 会切分为[“Hello“, ”World“] 对应的 token id [13225, 5922] 。对于中文“人工智能你好啊” DeepSeek-R1会切分为[“人工智能”, “你好”,“啊”] 对应的token id [33574, 30594, 3266]。可以在科学上网模式下通过https://tiktokenizer.vercel.app/ 查看token映射例如“人工智能”在deepseek中占一个token而在GPT-4o中则是“人工”和“智能”两个token。除了文本所占的token外还有分隔符、起如符、结束符也会占用token。四、Temperature 与Top P的作用大模型生成文字的过程本质上是概率预测。大模型中的Temperature, Top P则通过调整选择不同概率的Token倾向来控制 LLM 生成文本的多样性但两者原理不同。• Temperature (温度):原理在模型计算出下一个Token所有可能的概率分布后Temperature会调整这个分布的“平滑度”。高Temperature (如 1.0)会让低概率的Token更容易被选中使生成结果更具创造性但可能出现不连贯的词语。低Temperature (如 0.2)会让高概率的Token权重更大使生成结果更稳定、更符合训练数据但会更保守。• Top P (核采样):原理它设定一个概率阈值P然后从高到低累加所有Token的概率直到总和超过P为止。模型只会在这个累加出来的“核心”词汇表中选择下一个Token。• 高Top P (如0.9)候选词汇表较大结果更多样。• 低Top P (如 0.1)候选词汇表非常小结果更具确定性。举个例子假设模型要完成句子“今天天气真…”模型预测的下一个词可能是好(60%)、不错(30%)、糟(9%)、可乐(0.01%)。高Temperature会提升所有词的概率使得“可乐”这个不相关的词也有机会被选中。Top P (设为0.9)会选择概率总和达到90%的词。这里好(60%) 不错(30%) 90%所以模型只会从“好”和“不错”中 选择直接排除了“可乐”这种离谱的选项。Temperature及Top P可以通过API进行设置。参考进入阿里云的dashscopehttps://dashscope.console.aliyun.com/dashscope网页-模型广场-(任选一个模型) API详情然后找Temperature及Top P参数。五、AI Chat产品的超能力——联网搜索、读取文件记忆功能1、联网搜索通过获取外部信息弥补LLM训练数据截止日期的限制。1当用户提问涉及最新资讯时系统会识别出这一需求自动调用搜索工具并将问题转化为多个简洁的搜索关键词。2程序调用搜索引擎API如Google搜索获取信息。3这些实时信息会作为上下文提供给模型由模型进行总结和提炼生成精准且与时俱进的回答。2、读取文件大模型一次会话窗口可以容纳32k的文字大概3万多字基于“检索增强生成”Retrieval-Augmented Generation, RAG的技术大模型可以一次性读取多个文件如10万字并将关键信息提取放入窗口中这样大模型一次性就可以读取超过32k的内容。1当你上传一个文件如PDF、Word文档时系统首先会将其内容分割成小块Chunks。2通过Embedding技术将这些文本块转化为数学向量并存储在专门的“向量数据库”中。3当你针对文件内容提问时系统会将你的问题也转化为向量并在数据库中快速找到最相关的文本块 最后将这些文本块连同你的问题一起交给模型生成答案。比如上传一份公司财报后提问“第二季度的利润是多少” RAG系统能精确定位到财报中相关的片段让LLM直接使用。RAG是一个LLM applicationLLM看到了文件发现文件大于 32k于是调用了RAG能力即过滤内容检索出来相关内容的能力。3、记忆能力LLM本身是无状态的无记忆能力每次对话都是一次全新的互动不记得之前的交流。为了实现“记忆”系统会在每次对话时将最近的几轮问答作为背景信息拼接在一起发送给模型称为**“短期记忆”或“上下文窗口”**。短期只能记住当前message LLM response 不超过 32k 的内容。对于需要长期记住的关键信息例如你的名字或偏好系统会通过特定算法提取这些信息将其存储在用户专属的数据库中在后续的对话中系统会先从数据库中读取为模型提供更个性化的背景知识。比如告诉AI“我喜欢简洁的回答风格”系统会记录这一偏好。下次提问时它就会倾向于给出更简练的答复。六、全球AI发展现状全球AI模型发展现状中美对比• 美国OpenAI、Anthropic、Google、Meta等公司主导前沿模型如GPT-4o、Claude 4 Sonnet、Gemini 2.5 Flash。• 中国DeepSeek如R1、V3、阿里巴巴如Qwen3、Moonshot等公司快速追赶部分模型如Kimi K2, DeepSeek R1已接近美国前沿水平。• 关键趋势中国模型在2024年显著缩小与美国的差距尤其在推理模型和开源模型领域表现突出。• 其他地区法国Mistral、加拿大Cohere等也有前沿模型但中美仍是主导力量。七、出品限制与硬件影响美国对华限制• 时间线2022年10月首次限制H100、A1002023年10月升级H800、A800受限2025年1月新增“AI扩 散规则”。• 当前状态仅H20、L20等低性能芯片可出口中国未来可能进一步收紧。• 影响中国依赖国产芯片如华为昇腾或降级版NVIDIA芯片如H20算力仅为H100的15%。硬件性能对比• NVIDIA H100989 TFLOPs3.35 TB/s带宽。• NVIDIA H20148 TFLOPs4 TB/s带宽专为中国市场设计。• AMD MI300X1307 TFLOPs5.3 TB/s带宽未受限制。八、中国AI公司概览大科技公司• 阿里巴巴通义千问Qwen系列Qwen3• 百度文心一言Ernie 4.0 Turbo• 腾讯混元大模型HunyuanLarge• 字节跳动豆包Doubao1.6 Pro• 华为盘古5.0Pangu 5.0 Large初创公司• DeepSeekR1、V3开源模型表现优异。• MoonshotKimi K2专注长上下文窗口。• MiniMaxText-01多模态能力突出。• 其他智谱AIChatGLM、百川智能Baichuan等。如何学习AI大模型大模型时代火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业”“谁的饭碗又将不保了”等问题热议不断。不如成为「掌握AI工具的技术人」毕竟AI时代谁先尝试谁就能占得先机想正式转到一些新兴的 AI 行业不仅需要系统的学习AI大模型。同时也要跟已有的技能结合辅助编程提效或上手实操应用增加自己的职场竞争力。但是LLM相关的内容很多现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学学习成本和门槛很高那么针对所有自学遇到困难的同学们我帮大家系统梳理大模型学习脉络将这份LLM大模型资料分享出来包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 有需要的小伙伴可以扫描下方二维码领取↓↓↓学习路线第一阶段 从大模型系统设计入手讲解大模型的主要方法第二阶段 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用第三阶段 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统第四阶段 大模型知识库应用开发以LangChain框架为例构建物流行业咨询智能问答系统第五阶段 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型第六阶段 以SD多模态大模型为主搭建了文生图小程序案例第七阶段 以大模型平台应用与开发为主通过星火大模型文心大模型等成熟大模型构建大模型行业应用。学会后的收获• 基于大模型全栈工程实现前端、后端、产品经理、设计、数据分析等通过这门课可获得不同能力• 能够利用大模型解决相关实际项目需求 大数据时代越来越多的企业和机构需要处理海量数据利用大模型技术可以更好地处理这些数据提高数据分析和决策的准确性。因此掌握大模型应用开发技能可以让程序员更好地应对实际项目需求• 基于大模型和企业数据AI应用开发实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能 学会Fine-tuning垂直训练大模型数据准备、数据蒸馏、大模型部署一站式掌握• 能够完成时下热门大模型垂直领域模型训练能力提高程序员的编码能力 大模型应用开发需要掌握机器学习算法、深度学习框架等技术这些技术的掌握可以提高程序员的编码能力和分析能力让程序员更加熟练地编写高质量的代码。1.AI大模型学习路线图2.100套AI大模型商业化落地方案3.100集大模型视频教程4.200本大模型PDF书籍5.LLM面试题合集6.AI产品经理资源合集获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】