type
status
date
slug
summary
tags
category
icon
password
矿脉
仿生 SVM 有多少人会用
拍死在沙滩上
先拆解再组装
不可解释 完全解决 问题分析 数理公式
网络出来
技术原理是什么
非常逻辑的事情
处理之后 做翻译或者问答
分词
找特征
搜索翻译
感知
规划 （如何协同）
控制
分治法
没有分治法
非常普世
分类
技巧+扰动
提高一点 是由什么决定的
本身的很多柔性连接
不同的步骤，切断了
做不上去了
印证出来
搜索词最后的效果
2024 上不去 具体的分数
细分一层
再也没有意义了
把词分好的知识
历史的尘埃
自然语言处理
3万以上的博士
各种分治法 很多具体问题 冷门知识
端到端的大模型 没有价值了
观察 抽象 算法迭代
没有摧毁一个行业的
自然语言处理这个行业被摧毁了
毁天灭地 芯片的硬件
没有GPU，就没有transformer
紧紧耦合在了一起
历史的时刻
现在的大预言模型
训练端 推理端 训练好的模型 每次推理 内存到计算中心
芯片领域
一行行代码
只在解决一个子问题
数据和程序
冯诺伊曼架构 最核心的 就是区分了 存储器和计算器
运算到了哪一步 ，之后从存储器把东西取出来 ，之后算完再弄下一步
cache 没有必要 不会大到几百K
各种各样的处理器
截然相反
分治法的反面
整体 不能少
完整地加载进去
cycle 做矩阵乘法运算
足够多地卡 整体算力是不下降的
连在一起
瓶颈在搬运
带大量计算单元 结构
还可以提高多少 性能 处理问题的方法 推理端来说 不应该分开
人类大脑 不到20瓦
大脑是不搬数据的 没有用来存数据的单元
人类是没有内存概念的 不适合去解决 分治法的算法问题
准确描述 程序 架构 每次执行到一步
大脑是存算一体的
存算一体的概念
无论用什么算子
计算的逻辑
运行 大模型的算法 无意义的数据搬运
支撑半天的工作
不需要大量的能量
下一步发展的方向
都是分治法
几年下来 非常热门的方向
观察人脑
朝一个仿生
推理 推理的过程当中训练自己
没有功夫 没有办法修改
搬来搬去
如何调整
不搬运了
积累的知识 冻结了
出现了问题
运行的时候 去做持续训练和自我调整
n次推理
目标函数
去刷新一次
全新的算法 超越存算的界限
担忧
很奇妙
上帝创造人类 的过程
一边学习，一遍计算
- Author:NotionNext
- URL:https://tangly1024.com/article/%E5%A4%A7%E6%A8%A1%E5%9E%8B%E8%A7%A3%E5%86%B3%E4%B8%8D%E4%BA%86%E8%8B%B1%E4%BC%9F%E8%BE%BE%E7%9A%84%E9%9A%BE%E9%A2%98%EF%BC%8CAI%E6%96%B0%E8%8C%83%E5%BC%8F%E5%BF%85%E5%B0%86%E5%87%BA%E7%8E%B0%EF%BC%9A%E4%B8%93%E8%AE%BF%E5%AE%89%E5%85%8B%E5%88%9B%E6%96%B0CEO%E9%98%B3%E8%90%8C
- Copyright:All articles in this blog, except for special statements, adopt BY-NC-SA agreement. Please indicate the source!