Удаляем дубликаты строк из файла средствами Linux

archive view archive save

article Как средствами Linux удалить дубликаты строк из текстового файла? Удаление дубликатов строк из текстового файла средствами ОС Linux не составляет особого труда, для этого нам достаточно стандартных программ sort и uniq.

К примеру у нас имеется текстовый файл garbage.txt с содержимым:

строка 1
строка 2
строка 3
строка 1
строка 4
строка 5
строка 1
строка 6
строка 7

Стандартные утилиты sort и uniq помогут нам отсортировать строки и выбрать только уникальные:

$ sort garbage.txt | uniq -u
строка 2
строка 3
строка 4
строка 5
строка 6
строка 7

Результат мы можем вывести в файл:

$ sort garbage.txt | uniq -u > sort.txt

Добавить комментарий

АХТУНГ! Все комменты гостей модерасятся модерастом.
  1. Мессаги исключительно рекламного содержания, либо содержащие только одни оценочные суждения типа "круто" ("отлично", "спасибо", "автор дебил" и т.п.) не публикуются;
  2. Злостным спамерам, пранкерам и прочей сетевой нечисти рекомендуем напрасно не тратить своего времени и удовлетворять свои больные фантазии на специализированных Интернет ресурсах!;
  3. Разумная обоснованная критика, замечания, дополнения приветствуются. Поля помеченные символом * обязательны к заполнению.


Защитный код
Обновить

Комментарии   

Иван Шаман
+1 #2 Иван Шаман 04.02.2020 05:06
Цитирую Алексндр:
А без потери дублирующихся никак?
В смысле хотелось бы чтобы одна "строка 1" все же осталась в списке

Можно 8) так Код:sort -u garbage.txt или так Код:sort garbage.txt | uniq
Цитировать
Алексндр
+5 #1 Алексндр 01.02.2020 12:59
А без потери дублирующихся никак?
В смысле хотелось бы чтобы одна "строка 1" все же осталась в списке
Цитировать
Комментарии в блоге
    • а от злоупотребления перенасыщенной гормонами и прочим гав.., молочкой, - отрастает пузо, вымя у девок превращая их в реальных тёлок, активно растут ногти ...
    • ВОТ КАК НУЖНО В МАГАЗ ЗА ХЛЕБОМ ХОДИТЬ!!! Уклонист стрелял, резал ножом, кинул в гранату в ТЦК и мусоров! Суд наказал ТЦКашника - YouTube ...
    • сегодня в магазе у меня был «день вежливости» (как в ералаше прямо) - пропускал алкашей с пузырями, а у меня тазик нагруженный был... так я их штук ...
    • «Кто не помнит прошлого, у того нет будущего» - и так у славянского быдла веками! Уже в который раз жиды их пердолят, а им скотам рогатым всё так и ...
    • как минимум с 2024 года верховная синагога и вся гнилая вонючая вертикаль, - просрочены по всем признакам и на данный момент является незаконным ...
Новое на форуме