标签： machine

发布于

JS `Machine Learning` `ONNX Runtime Web` `WebGPU` `Inference` `Optimization`

咳咳，各位观众老爷们，晚上好！今天咱们来聊聊一个既高大上又接地气的话题：用 JavaScript 搞机器学习，然后让它在浏览器里飞起来！具体来说，就是借助 ONNX Runtime Web + WebGPU 这对黄金搭档，把模型推理性能榨干最后一滴油。 一、机器学习：从 Python 到 JavaScript，换个姿势玩耍 说到机器学习，大家脑海里浮现的肯定是 Python，TensorFlow，PyTorch 这些关键词。没错，它们在服务器端叱咤风云，但在前端世界，JavaScript 才是王者。为什么要在浏览器里搞机器学习呢？原因很简单： 离线推理： 用户不用再依赖服务器，网络不好也能愉快地使用你的应用。 隐私保护： 数据处理在本地进行，不用担心敏感信息泄露。 降低延迟： 减少网络传输，响应速度更快，用户体验更好。 当然，JavaScript 在机器学习领域也面临着挑战： 性能瓶颈： JavaScript 本身不是为高性能计算设计的。 生态不够完善： 相比 Python，JavaScript 机器学习库还比较少。 不过，这些问题都在逐渐被解决。今天咱们的主角 ONNX Runtim …

继续阅读“JS `Machine Learning` `ONNX Runtime Web` `WebGPU` `Inference` `Optimization`”

发布于

JS `Machine Learning` (`TensorFlow.js`/`ONNX Runtime Web`) `Model Compression` 与 `Quantization`

Alright, 各位观众老爷，欢迎来到今天的“模型减肥健身房”！我是你们的私人教练，今天就来聊聊如何让你的JavaScript机器学习模型变得更苗条、更快更强。 我们今天要讨论的是JS环境下的机器学习模型压缩与量化，主要针对TensorFlow.js和ONNX Runtime Web。记住，我们的目标是：让模型在浏览器里跑得飞起，而不是卡成PPT！ 第一部分：为什么要给模型“减肥”？ 想象一下，你辛辛苦苦训练了一个图像识别模型，精度杠杠的。但是，它有50MB那么大！用户访问你的网站，得先花半天时间下载这个模型，这谁受得了？ 下载时间长： 用户体验差到爆，直接关掉页面，你哭都没地方哭。 内存占用高： 浏览器内存有限，模型太大容易导致页面崩溃。 计算速度慢： 硬件资源是有限的，模型越大，计算越慢，用户体验直线下降。 移动设备限制： 移动网络不稳定，设备性能也有限，大模型更是寸步难行。 所以，模型压缩是势在必行的！就好比你要参加马拉松，必须减掉多余的脂肪，才能跑得更快更远。 第二部分：模型压缩方法概览 模型压缩的方法有很多，我们这里重点介绍几种常用的： 量化 (Quantization)： …

继续阅读“JS `Machine Learning` (`TensorFlow.js`/`ONNX Runtime Web`) `Model Compression` 与 `Quantization`”

发布于

PHP `Machine Learning` (`PHP-ML`/`TensorFlow.php`)：PHP 端的机器学习应用

各位，晚上好！我是你们今晚的PHP机器学习速成班讲师，咱们今天要聊聊PHP和机器学习的“孽缘”。别担心，咱们不搞高深莫测的公式，也不玩云里雾里的理论。咱们就用PHP，用代码，把机器学习这玩意儿给扒个精光，让它变得像echo “Hello World!”;一样简单。 首先，我们得承认一个残酷的现实：PHP天生就不是为了机器学习而生的。它更擅长处理Web请求，数据库交互，而不是矩阵运算，梯度下降。但！是！谁说PHP不能有梦想？谁说PHP不能搞机器学习？ 所以，我们今天的主角就是PHP-ML和TensorFlow.php这两个库，它们是PHP在机器学习领域的两把刷子。 第一部分：PHP-ML：小巧玲珑，简单易用 PHP-ML是一个纯PHP实现的机器学习库。它的优点是：安装简单，不依赖复杂的外部库，学习曲线平缓，适合新手入门。缺点也很明显：性能有限，不适合处理大规模数据。 安装 PHP-ML 就像安装普通的PHP扩展一样简单（虽然它不是扩展，只是一个库）： composer require php-ml/php-ml 搞定！是不是比安装node_modules快多了？ 数据加载 机器学习的第一 …

继续阅读“PHP `Machine Learning` (`PHP-ML`/`TensorFlow.php`)：PHP 端的机器学习应用”

发布于

JS `Machine Learning` in Browser (`TensorFlow.js`, `ONNX Runtime Web`) 模型部署与推理优化

各位好，我是你们今天的“浏览器里的AI魔法师”。今天咱们来聊聊如何在浏览器里玩转机器学习，把那些高大上的模型部署起来，并且榨干每一滴性能，让它们跑得飞起。 咱们的主角是 TensorFlow.js 和 ONNX Runtime Web，这两位都是浏览器里的AI好帮手。TensorFlow.js 是 TensorFlow 的 JavaScript 版本，而 ONNX Runtime Web 则支持运行 ONNX 格式的模型，选择哪个取决于你的模型格式和需求。 第一部分：TensorFlow.js 模型部署与推理优化 TensorFlow.js 让你直接在浏览器里加载、训练和运行机器学习模型。这太酷了，这意味着你的用户不需要安装任何东西，就能体验到AI的魅力。 1. 模型加载：就像拆快递一样简单 TensorFlow.js 支持多种模型格式，比如 TensorFlow SavedModel、Keras 模型、甚至可以直接从 URL 加载模型。 从 URL 加载: async function loadModel() { const model = await tf.loadLayersMo …

继续阅读“JS `Machine Learning` in Browser (`TensorFlow.js`, `ONNX Runtime Web`) 模型部署与推理优化”

发布于

Azure Machine Learning Studio 与 MLOps 组件

好嘞，各位观众老爷们，欢迎来到今天的“Azure Machine Learning Studio 狂想曲”！今天咱们要聊聊 Azure Machine Learning Studio (以下简称 AMLS) 这位“高富帅”如何和 MLOps 这群“实力派”擦出火花，打造出让人眼前一亮的机器学习项目。准备好了吗？Let’s dive in! 第一幕：AMLS 的自我介绍 – 我可不是花瓶！ 首先，我们要给 AMLS 正名。很多人觉得它只是个拖拽式的 “玩具”，只能做些简单的实验。 拜托，时代变了！AMLS 现在可是个功能强大的平台，它集成了模型训练、评估、部署、监控等一系列功能，简直就是机器学习工程师的百宝箱。 AMLS 主要有以下几个亮点： 可视化界面 + 代码优先: 既能通过拖拽组件快速搭建 pipeline，也能用 Python 代码灵活定制，简直是“可盐可甜”。 强大的计算资源: 可以轻松利用 Azure 提供的 GPU、CPU 集群，再也不用担心电脑卡成PPT了。 集成 Azure 生态: 无缝对接 Azure Data Lake Storage、Azure Dev …

继续阅读“Azure Machine Learning Studio 与 MLOps 组件”

发布于

Azure Machine Learning：ML 模型开发与部署

好的，各位观众老爷，各位技术大咖，以及各位对Azure Machine Learning跃跃欲试的小伙伴们，欢迎来到“Azure Machine Learning：ML 模型开发与部署”的专场脱口秀！我是你们的导游兼段子手，今天咱们就一起扒一扒Azure Machine Learning的底裤，看看它到底有多么的性感，哦不，强大！😎 开场白：人工智能的诗与远方，以及Azure的船票 人工智能（AI）这个词，听起来是不是特别高大上？感觉像是科幻电影里的场景，机器人管家，自动驾驶汽车，甚至还有能跟你谈人生的AI伴侣。没错，AI确实很厉害，它就像一把神奇的钥匙，能打开无数扇通往未来的大门。 但是！理想很丰满，现实很骨感。要实现这些酷炫的功能，光有美好的愿景是不够的，你还需要： 数据：这是燃料，没有数据，AI就是一辆没油的跑车，只能趴窝。 算法：这是引擎，决定了你的跑车跑得有多快，多稳。 算力：这是动力，没有足够的算力，再好的引擎也带不动。 平台：这是赛道，一个好的平台能让你事半功倍，加速前进。 而Azure Machine Learning，就是Azure提供的一张通往人工智能诗与远方的船票 …

继续阅读“Azure Machine Learning：ML 模型开发与部署”

发布于

Azure Virtual Machine Scale Sets (VMSS)：弹性伸缩与自动修复

Azure VMSS：弹性伸缩与自动修复，让你的云上应用像变形金刚一样能屈能伸！💪 各位观众，各位听众，各位云端冲浪的弄潮儿们，大家好！我是你们的老朋友，江湖人称“代码诗人”的程序猿小李。今天，我们不谈风花雪月，不聊八卦绯闻，只聊聊云上那些事儿，尤其是Azure VMSS，这个听起来有点高大上，但实际上非常实用、非常有趣的家伙！ 想象一下，你辛辛苦苦开发了一个APP，满怀期待地发布上线，结果访问量像火箭一样嗖嗖嗖地往上窜，服务器瞬间就崩了！😱 这种感觉，就像你精心准备了一桌丰盛的晚餐，结果来了一群饿狼，瞬间就被啃得骨头都不剩！ 为了避免这种悲剧的发生，我们需要一位“变形金刚”，它能根据访问量的变化，自动增加或减少服务器的数量，让你的应用始终保持最佳状态。而Azure VMSS，就是这个变形金刚！🤖 什么是Azure VMSS？简单说，就是一群VM的变形金刚！ VMSS，全称Virtual Machine Scale Sets，翻译过来就是虚拟机规模集。它就像一个“虚拟机军团”，由多个相同的虚拟机实例组成。这些虚拟机实例共享同一个配置，例如操作系统、应用程序、网络设置等。 你可以把VMS …

继续阅读“Azure Virtual Machine Scale Sets (VMSS)：弹性伸缩与自动修复”