uniq命令需与sort配合处理相邻重复行，直接执行uniq可去除连续重复行如aabba变为aba；使用-c统计每行出现次数，结合sort -nr可排序频次；-d选项仅输出重复行，适合定位重复数据；-f跳过前N个字段（空白分隔），-s跳过前N字符，常用于忽略日志时间戳；整体在日志分析中高效实用。
uniq命令用于处理文本文件中相邻的重复行，常配合sort使用。它不能识别不相邻的重复行，因此通常先排序再去重。
去除相邻重复行
当文本中有多行连续重复时，可用uniq直接去重。
- 命令格式：uniq filename - 示例：文件内容为a
a
b
b
a
执行uniq后输出为
a
b
a（仅去除相邻重复）
统计每行出现次数
加上-c选项可统计每行重复数量，适合分析日志或访问记录。
- 命令格式：uniq -c filename - 输出每行前会显示出现次数 - 配合sort -nr可用于排序统计结果，找出最高频的条目查找完全重复的行
使用-d选项只输出至少出现两次的相邻行，适合快速定位重复数据。
Shell脚本编写基础 中文WORD版
下载
Shell本身是一个用C语言编写的程序，它是用户使用Linux的桥梁。Shell既是一种命令语言，又是一种程序设计语言。作为命令语言，它交互式地解释和执行用户输入的命令；作为程序设计语言，它定义了各种变量和参数，并提供了许多在高级语言中才具有的控制结构，包括循环和分支。它虽然不是Linux系统核心的一部分，但它调用了系统核心的大部分功能来执行程序、建立文件并以并行的方式协调各个程序的运行。因此，对于用户来说，shell是最重要的实用程序，深入了解和熟练掌握shell的特性极其使用方法，是用好Linux系统
忽略行首字符再比较
用-f选项跳过前N个字段（以空白分隔），适用于有时间戳等前缀的日志。
- 示例：uniq -f 1 logfile 忽略每行第一个字段 - 注意：-f按空白分割字段，不是字符数 - 更精确控制可用-s跳过前N个字符基本上就这些。uniq本身功能有限，但和sort、grep、cut等组合后很实用，尤其在日志分析和数据清洗时效率很高。
