0

0

如何检测浏览器中的代码语言

心靈之曲

心靈之曲

发布时间:2024-11-22 11:12:15

|

628人浏览过

|

来源于dev.to

转载

如何检测浏览器中的代码语言

存储库:https://github.com/ray-d-song/guesslang-js

演示:https://ray-d-song.github.io/guesslang-js/

最近在做一个叫EchoRSS的项目,有一个非常想要的功能,就是拦截订阅中的外部链接(阅读全文、引用等)并直接显示在当前页面上。

存在返回的HTML代码块丢失语言标注的问题(或者原代码块中的pre和code标签上没有标注语言),因此无法使用shiki或prism.js等工具进行高亮显示。

我找到了三种检测代码语言的解决方案:

1. 语言学家

这是一个部署在服务器上的Ruby项目,Github使用它来检测存储库的语言构成。如果你需要极高的精度并且可以在服务器上计算,这是最好的解决方案。

2. HLJS

highlight.js 是一个非常著名的网页代码高亮库,也是唯一提供自动代码检测的库。

原理很简单,就是枚举该语言的关键词,然后将它们与文本一一匹配,最后看哪一个匹配度最高。

hljs 有四个问题。

易企CMS1.8
易企CMS1.8

易企CMS:国内首款完全基于SEO友好性开发的营销型企业网站系统,让企业网络营销从此易如反掌。 本程序特征:100%开发源代码,免费开源;后台管理操作简单易行;模板div+css标准设计,符合w3c标准,兼容主流浏览器;开发语言和数据库:PHP+Mysql。 本程序亮点:从基础代码开发起完全符合SEOWHY理论的SEO规范,力图实现国内首款对SEO最友好的企业网站开源程序,为企业网络营销的巨大成功

下载
  • 需要非常长的代码长度,大多数语言至少需要300个字符才能达到相对较好的准确性。
  • 检测语言的部分并不是一个单独的模块,而是与解析器和渲染器紧密耦合,而且代码也非常命令式,很难提取出有用的部分。
  • 如果不提取检测模块,在使用hljs高亮时,代码的原始格式(换行和缩进)将会丢失。
  • 需要大量正则匹配,性能较差,并且由于原因2,无法在Web Worker中运行。

3. 猜测

guesslang是一个基于tensorflow.js的机器学习项目。

微软在2021年将此项目移植到node.js,并在vscode中添加了自动语言检测功能。

三年前有个越南小伙hieplpvip也把这个项目移植到浏览器上,但是也存在三个问题:

  • 内存泄漏,内存泄漏...
  • 仅支持
  • 同样,由于原因2,它不支持Web Worker

这家伙还没有维护这个项目,三月份支持esm的壮举请求也没有得到回复。

于是我从hljs中提取了检测模块,并fork了guesslang-js来修复上述问题,最终guesslang获胜,结果是这样的:
https://github.com/ray-d-song/guesslang-js

我觉得说的太多了,也许以后有人需要,所以我就发一下。

如果有人了解tensorflow.js,希望能推荐一些学习资料,我想进一步修改为web gpu计算以提高效率。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

510

2023.06.20

js获取当前时间
js获取当前时间

JS全称JavaScript,是一种具有函数优先的轻量级,解释型或即时编译型的编程语言;它是一种属于网络的高级脚本语言,主要用于Web,常用来为网页添加各式各样的动态功能。js怎么获取当前时间呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

244

2023.07.28

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

298

2023.08.03

js是什么意思
js是什么意思

JS是JavaScript的缩写,它是一种广泛应用于网页开发的脚本语言。JavaScript是一种解释性的、基于对象和事件驱动的编程语言,通常用于为网页增加交互性和动态性。它可以在网页上实现复杂的功能和效果,如表单验证、页面元素操作、动画效果、数据交互等。

5305

2023.08.17

js删除节点的方法
js删除节点的方法

js删除节点的方法有:1、removeChild()方法,用于从父节点中移除指定的子节点,它需要两个参数,第一个参数是要删除的子节点,第二个参数是父节点;2、parentNode.removeChild()方法,可以直接通过父节点调用来删除子节点;3、remove()方法,可以直接删除节点,而无需指定父节点;4、innerHTML属性,用于删除节点的内容。

481

2023.09.01

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

212

2023.09.04

Js中concat和push的区别
Js中concat和push的区别

Js中concat和push的区别:1、concat用于将两个或多个数组合并成一个新数组,并返回这个新数组,而push用于向数组的末尾添加一个或多个元素,并返回修改后的数组的新长度;2、concat不会修改原始数组,是创建新的数组,而push会修改原数组,将新元素添加到原数组的末尾等等。本专题为大家提供concat和push相关的文章、下载、课程内容,供大家免费下载体验。

218

2023.09.14

js截取字符串的方法介绍
js截取字符串的方法介绍

JavaScript字符串截取方法,包括substring、slice、substr、charAt和split方法。这些方法可以根据具体需求,灵活地截取字符串的不同部分。在实际开发中,根据具体情况选择合适的方法进行字符串截取,能够提高代码的效率和可读性 。

219

2023.09.21

Python 自然语言处理(NLP)基础与实战
Python 自然语言处理(NLP)基础与实战

本专题系统讲解 Python 在自然语言处理(NLP)领域的基础方法与实战应用,涵盖文本预处理(分词、去停用词)、词性标注、命名实体识别、关键词提取、情感分析,以及常用 NLP 库(NLTK、spaCy)的核心用法。通过真实文本案例,帮助学习者掌握 使用 Python 进行文本分析与语言数据处理的完整流程,适用于内容分析、舆情监测与智能文本应用场景。

9

2026.01.27

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

相关下载

更多

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
go语言零基础开发内容管理系统
go语言零基础开发内容管理系统

共34课时 | 2.6万人学习

第二十三期_前端开发
第二十三期_前端开发

共98课时 | 7.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号