- Команда Sed в Linux, вывод текста, удаление, замена.
- Синтаксис Sed
- Вывод строк
- Диапазоны адресов
- Удаление текста
- Замена текста
- Заключение
- Изучаем команды Linux: sed
- 1. Введение
- 2. Установка
- 3. Концепции
- 4. Регулярные выражения
- How to Use Sed Command in Linux with Examples
- Sed Command Syntax
- 1. Replacing String (words or characters)
- 2. Replace all the occurrence of a string in a file
- 3. Replacing the nth occurrence of a pattern in a line
- 4. Replace from nth occurrence to all the occurrences in each line
- 5. Search and replace a string on a specified line number
- 6. Display partial text of a file
- 7. Display all contents except particular lines
- 8. Display all lines except pattern matching line
- 9. Display replaced lines
- More examples of ‘p’ and ‘n’ flag
- 10. Combine SED commands
- 11. Insert blank line after each line
- 11. Edit and create a backup copy of orginal file
- 12. Deleting a line with a pattern
- 13. Appending String to lines
- 14. Extract usernames from /etc/passwd file
- 15. Print line without commented lines (#) & empty lines
- 16. Extract all ip addresses with sed from a string
- 17. Redirect and write to a file
- Conclusion
Команда Sed в Linux, вывод текста, удаление, замена.
Потоковый редактор sed (stream editor) — это текстовый редактор, выполняющий операции редактирования над информацией в стандартном потоке ввода или файле. Редактирование осуществляется по одной строке и неинтерактивно. Это означает, что вы принимаете все решения по редактированию при запуске команды, а утилита автоматически выполняет ваши указания. Это может показаться непонятным и неинтуитивным, но на самом деле sed — очень мощный и быстрый инструмент для преобразования текста.
В данном руководстве мы рассмотрим ряд базовых операций и познакомимся с необходимым синтаксисом. Утилита вряд ли заменит ваш обычный текстовый редактор, но скорее всего станет полезным дополнением к вашим инструментам для работы с текстами.
Синтаксис Sed
Обычно sed работает с потоком текста, считываемым из стандартного ввода или файла. Это значит, что вы можете отправить выходные данные другой команды непосредственно на вход утилиты для редактирования или работать с уже созданным файлом. Вывод всех результатов по умолчанию осуществляется в стандартный поток вывода, то есть выходные данные будут выведены на экран, а не сохранены в файл, если их не перенаправить.
Синтаксис команды следующий:
Скопируем себе в домашнюю директорию несколько файлов, чтобы попрактиковаться в редактировании.
Воспользуемся утилитой для просмотра содержимого скопированной нам лицензии BSD. По умолчанию sed выводит результаты на экран, поэтому им можно пользоваться для просмотра файлов, не задавая команд редактирования:
Это работает из-за того, что одиночные кавычки содержат команды редактирования, передаваемые sed. Мы ничего не передали, поэтому утилита просто вывела каждую полученную строку в стандартный поток вывода. Теперь покажем, как утилита может использовать стандартный ввод. Перенаправим редактору выходные данные команды “cat” и получим тот же результат.
Copyright (c) The Regents of the University of California.
All rights reserved.
Redistribution and use in source and binary forms, with or without
modification, are permitted provided that the following conditions
are met:
1. Redistributions of source code must retain the above copyright
notice, this list of conditions and the following disclaimer.
2. Redistributions in binary form must reproduce the above copyright
notice, this list of conditions and the following disclaimer in the
documentation and/or other materials provided with the distribution.
. . .
. . .
Мы можем работать с файлами или потоками текста (как происходит при перенаправлении вывода символом «|») одинаково легко.
Вывод строк
В предыдущем примере мы показали, что передаваемые без команд входные данные напрямую выводятся в стандартный поток вывода.Теперь рассмотрим явную команду “print”, которая задаётся при помощи символа “p” в одиночных кавычках.
Теперь утилита выводит каждую строку дважды. Это происходит потому, что каждая строка выводится автоматически, а ещё мы в явном виде указали выводить их командой “p”. Если посмотреть на результат, где дважды напечатана первая строка, затем дважды вторая и т.д., можно заметить, что sed работает построчно. Он принимает строку, обрабатывает ее и выводит результат, затем процесс повторяется для следующей строки.
Указав sed опцию «-n», которая отключает автоматический вывод, мы можем очистить результат:
Каждая строка снова выводится один раз.
Диапазоны адресов
Рассмотренные выше примеры вряд ли можно назвать редактированием (если мы не хотели выводить каждую строку два раза). Давайте изменим результат, указав sed напечатать только первую строку.
Число «1» перед командой вывода указывает номер строки для работы. Таким же образом мы можем вывести пять строк (не забываем про «-n»).
Мы только что передали в утилиту адрес. При получении адреса редактор выполняет указанные далее команды только над этими строками. В данном примере мы указали начальный адрес и смещение, чтобы сообщить команде, сколько ещё строк она должна пройти:
Результат будет таким же, потому что мы указали начать с первой строки и обработать следующие 4.
Если нужно исключить какие-то строки, можно указать интервал после символа «
».
Следующая команда напечатает все нечетные строки, начиная с первой:
Удаление текста
Можно легко удалить текст, который мы выводили в предыдущем примере, заменив команду “p” на команду “d”. Команда «-n» нам больше не нужна, потому что при использовании команды удаления утилита выводит все, что не удалено. Это позволяет нам видеть, что происходит. Изменим последнюю команду из предыдущего раздела так, чтобы она удаляла все нечетные строки, начиная с первой. В результате мы должны получить все строки, которые не были выведены в прошлый раз.
При этом исходный файл не меняется. Результаты редактирования просто выводятся на экран. Если результат нужно сохранить, можно перенаправить стандартный вывод в файл:
Открыв этот файл командой cat, мы увидим тот же результат, который был на экране после выполнения предыдущей команды. По умолчанию sed не редактирует исходный файл в целях безопасности. Это можно изменить при помощи опции «-i», которая означает редактирование на месте. Исходный файл будет изменен. Давайте попробуем отредактировать только что созданный нами файл «everyother.txt». Снова удалим все нечетные строки:
При помощи cat можно убедиться, что файл был отредактирован.
Опция “-i” может быть опасной, но утилита предоставляет возможность создания резервной копии перед редактированием. Для этого сразу после опции “-i” укажите расширение резервной копии “.bak”:
Будет создан файл резервной копии с расширением “bak”, а затем выполнено редактирование исходного файла.
Замена текста
Чаще всего sed используется для замены текста. Редактор позволяет осуществлять поиск текста по шаблону при помощи регулярных выражений. А затем заменять найденный текст. В простейшем варианте можно заменить одно слово на другое, используя следующий синтаксис:
Параметр «s» – это команда замены. Три слэша (/) нужны для разделения различных текстовых полей. Если вам удобно, вы можете использовать для этого другие символы. Например, если нам нужно изменить имя веб-сайта, удобнее использовать другой разделитель, так как URL содержат слэши. Воспользуемся командой echo для передачи примера:
Здесь секция «com/index» заменяется на «org/home». В качестве разделителя используется нижнее подчеркивание «_». Не забудьте про последний разделитель, иначе sed выдаст ошибку.
Создадим файл для отработки замен:
Теперь заменим «on» на «forward»
Стоит обратить внимание на ряд моментов. Во-первых, мы заменяем шаблоны, а не слова. “on” в слове “song” было заменено на “forward”. Во-вторых, второе “on” в строке 2 заменено не было. Это произошло потому, что по умолчанию команда “s” обрабатывает первое совпадение в строке. А затем переходит к следующей строке. Для замены каждого “on”, а не только первого в строке, можно указать команде замены флаг “g” после шаблонов:
Теперь были заменены все “on”. Чтобы заменить только вторые “on” в каждой строке, вместо “g” нужно указать “2”:
Если нам нужно вывести только те строки, где выполнялась замена, для отмены автоматического вывода можно снова воспользоваться опцией «-n». Затем мы можем передать флаг “p” для вывода строк, в которых производились замены.
Пример показывает, что флаги в конце команды можно комбинировать. Чтобы игнорировать регистр, нужно указать флаг “i”.
Если нужно заменить текст во всех файлах директории то можно воспользоваться командой
Про утилиту grep можно прочитать здесь
Заключение
Мы рассмотрели основы использования sed. Теперь вы можете быстро редактировать текстовые документы при помощи соответствующих команд sed.
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.
Источник
Изучаем команды Linux: sed
Оригинал: Learning Linux Commands: sed
Автор: Rares Aioanei
Дата публикации: 19 ноября 2011 года
Перевод: А. Кривошей
Дата перевода: июль 2012 г.
Николай Игнатушко проверил на GNU sed version 4.2.1 в дистрибутиве Gentoo все команды, упомянутые в этой статье. Не все скрипты хорошо отрабатывали на версии GNU sed. Но дело касалось мелочей, которые исправлены. Только скрипт по замене hill на mountains пришлось существенно переделать.
1. Введение
Добро пожаловать во вторую часть нашей серии, которая посвящена sed, версии GNU. Существует несколько версий sed, которые доступны на разных платформах, но мы сфокусируемся на GNU sed версии 4.x. Многие из вас слышали о sed, или уже использовали его, скорее всего в качестве инструмента замены. Но это только одно из предназначений sed, и мы постараемся показать вам все аспекты использования этой утилиты. Его название расшифровывается как «Stream EDitor» и слово «stream» (поток) в данном случае может означать файл, канал, или просто stdin. Мы надеемся, что у вас уже есть базовые знания о Linux, а если вы уже работали с регулярными выражениями, или по крайней мере знаете, что это такое, то все для вас будет намного проще. Объем статьи не позволяет включить в нее полное руководство по регулярным выражениям, вместо этого мы озвучим базовые концепции и дадим большое количество примеров использования sed.
2. Установка
Здесь не нужно много рассказывать. Скорее все sed у вас уже установлен, так как он используется различными системными скриптами, а также пользователями Linux, которые хотят повысить эффективность своей работы. Вы можете узнать, какая версия sed у вас установлена, с помощью команды:
В моей системе эта команда показывает, что у меня установлен GNU sed 4.2.1 плюс дает ссылку на домашнюю страницу программы и другие полезные сведения. Пакет называется «sed» независимо от дистрибутива, кроме Gentoo, где он присутствует неявно.
3. Концепции
Перед тем, как идти дальше, мы считаем важным акцентировать внимание на том, что делает «sed», так как словосочетание «потоковый редактор» мало что говорит о его назначении. sed принимает на входе текст, выполняет заданные операции над каждой строкой (если не задано другое) и выводит модифицированный текст. Указанными операциями могут быть добавление, вставка, удаление или замена. Это не так просто, как выглядит: предупреждаю, что имеется большое количество опций и их комбинаций, которые могут сделать команду sed очень трудной для понимания. Поэтому мы рекомендуем вам изучить основы регулярных выражений, чтобы понимать, как это работает. Перед тем, как приступить к руководству, мы хотели бы поблагодарить Eric Pement и других за вдохновление и за то, что он сделал для всех, кто хочет изучать и использовать sed.
4. Регулярные выражения
Так как команды (скрипты) sed для многих остаются загадкой, мы чувствуем, что наши читатели должны понимать базовые концепции, а не слепо копировать и вставлять команды, значения которых они не понимают. Когда человек хочет понять, что представляют собой регулярные выражения, ключевым словом является «соответствие», или, точнее, «шаблон соответствия». Например, в отчете для своего департамента вы написали имя Nick, обращаясь к сетевому архитектору. Но Nick ушел, а на его место пришел John, поэтому теперь вы должны заменить слово Nick на John. Если файл с отчетом называется report.txt, вы должны выполнить следующую команду:
По умолчанию sed использует stdout, вы можете использовать оператор перенаправления вывода, как показано в примере выше. Это очень простой пример, но мы проиллюстрировали несколько моментов: мы ищем все соответствия шаблону «Nick» и заменяем во всех случаях на «John». Отметим, что sed призводит поиск с учетом регистра, поэтому будьте внимательны и проверьте выходной файл, чтобы убедиться, что все замены были выполнены. Приведенный выше пример можно было записать и так:
Хорошо, скажете вы, но где же здесь регулярные выражения? Да, мы хотели сначала показать пример, а теперь начинается самая интересная часть.
Если вы не уверены, написали ли вы «nick» или «Nick», и хотите предусмотреть оба случая, необходимо использовать команду sed ‘s/Nick|nick/John/g’. Вертикальная черта имеет значение, которое вы должны знать, если изучали C, то есть ваше выражение будет соответствовать «nick» или «Nick». Как вы увидите ниже, канал может использоваться и другими способами, но смысл остается тот же самый. Другие операторы, широко использующиеся в регулярных выражениях — это «?», который соответствует повторению предшествующего символа ноль или один раз (то есть flavou?r будет соответствовать flavor и flavour), «*» — ноль или более раз, «+» — один или более раз. «^» соответствует началу строки, а «$» — наоборот. Если вы — пользователь vi или vim, многие вещи покажутся вам знакомыми. В конце концов, эти утилиты, вместе с awk и С уходят корнями в ранние дни UNIX. Мы не будем больше говорить на эту тему, так как проще понять значение этих символов на примерах, но вы должны знать, что существуют различные реализации регулярных выражений: POSIX, POSIX Extended, Perl, а также различные реализации нечетких регулярных выражений, гарантирующие вам головную боль.
Источник
How to Use Sed Command in Linux with Examples
SED abbreviated as ‘Stream Editor’ is a powerful text stream editor that can perform a lot of functions on file that is searching, find and replace and insertion. The sed command is regular expression aware command, means it can understand the regular expressions provided to it.
Though, SED is primarily or mainly used for text substitution. With the help of SED, we can edit files without opening it, which will be much faster and quicker to find and replace something in a file, rather than opening the file and changing it.
In this tutorial, we’ll learn SED command with easy-to-use and understand examples in our Linux shell.
Sed Command Syntax
Sed command syntax is pretty simple to understand but is very powerful in use. Here is the basic syntax of SED as follows :
Consider the below text file (‘content.txt’) as an input for the sed examples command.
Here are the most highly used sed examples as follows.
1. Replacing String (words or characters)
Sed can be used to find and replace a string (words or characters) on the input. The option s is used for replacing a string. By default, sed command only replaces the first occurrence of the string in a line.
The following command replaces the word ‘lorem’ with ‘Lorem’ in the ‘content.txt’ file for the first occurrence in each line:
$ sed ‘s/lorem/Lorem/’ content.txt
Here ‘lorem’ is the search string and the ‘Lorem’ is the replacement string.
2. Replace all the occurrence of a string in a file
To search and replace all the occurrences of a string in a file use /g (global replacement) flag.
In the following command, /g flag is used to replace all the occurrences of the string ‘lorem’ with ‘Lorem’ in the file ‘content.txt’.
3. Replacing the nth occurrence of a pattern in a line
The sed command can be used with /1 , /2 or n (any number) to replace the first, second or nth occurrence of a string in a line.
The following command replaces the second (2) occurrence of the word ‘lorem’ with ‘Lorem’ in each line.
Similar to tr command, sed can replace all occurrences of characters in set1 with the corresponding characters in set2 using y/set1/set2/ .
4. Replace from nth occurrence to all the occurrences in each line
We can use a combo of /1 , /2 or n (any number) and /g to replace all the patterns from the nth occurrence of a string in each line.
In the following example, all occurrences of the string ‘lorem’ will be replaced with ‘Lorem’ from the 2nd occurrence in each line:
5. Search and replace a string on a specified line number
With sed, we can restrict the function only to replace the string on a specific line number.
In the following command, we can find that only the second line is replaced by the string ‘Lorem’.
6. Display partial text of a file
Using sed command you can view some portion of a file rather than the whole file. The -n option is used to suppress printing all content and p option is used print specific lines.
The following command will print lines from 2 to 4:
7. Display all contents except particular lines
Sed command allows displaying all contents of the file except particular lines. In the following command display all content on the file ‘content.txt’ except lines 1 and 2:
8. Display all lines except pattern matching line
We can use the following sed command to delete the line that has the search pattern that is mentioned. In the output, the line with «learn» is deleted because it matches the search pattern.
9. Display replaced lines
In order to print the replaced lines, we make the use of /p flag along with -n .
In the output, we can see there is not the last line because it didn’t have the search pattern ‘lorem’.
More examples of ‘p’ and ‘n’ flag
Print first line
Print range of line
Print multiple lines
Print contains regex or word
Print if contains digits
Match regex and replace
Use sed like grep
The following sed command will search for user ‘root’ in ‘/etc/passwd’ file:
10. Combine SED commands
If we have to perform multiple sed expressions then we need to use e option to chain the sed commands.
Let’s take an example, to replace all the occurrence of the «lorem» with «Lorem» and deleting the line that matches the search pattern.
11. Insert blank line after each line
Using G option you can insert single or multiple blank lines in a file.
The following command inserts single blank line between the lines:
To insert two blank lines run the below command:
11. Edit and create a backup copy of orginal file
Sed allows to edit a file and same time create a backup copy of the original file. We use ‘i. ‘ for backup file name and -e editing.
The following command creates a backup of original file ‘content.txt’ as ‘content.txt.bak’
12. Deleting a line with a pattern
Using this sed command, you can delete a line starting with a particular string & ending with another string. In the following output, the line with starting ‘lorem’ and ending with ‘text.’ is deleted:
13. Appending String to lines
We can execute the following command in order to add some content before every line using regex.
In the following output, we can see ‘Here’ is added in front of every line.
Insert string before each line:
Append string after each line:
14. Extract usernames from /etc/passwd file
Sed command can be easily used to get all the list of all usernames from ‘/etc/passwd’ file.
The following sed command will extract all the usernames available linux:
15. Print line without commented lines (#) & empty lines
Print without commented (#) lines and empty lines are simple with sed.
We can execute the following command to print all lines which don’t contain comment symbol (#) and all the empty lines.
To remove only commented lines:
16. Extract all ip addresses with sed from a string
Let’s check how to extract IP addresses using sed command with regex. I have added a few IP addresses to ‘content.txt’ for testing.
Now let use regex to extract IP address from ‘content.txt’ file as follows:
I found another easy command for getting the same results, check below:
We can also combine sed with other command using pipes (|), check below example:
17. Redirect and write to a file
The w flag can be used to write the output to a file, instead of printing on the standard output. The w command requires a filename to which the output will be written.
The following sed command will redirect output to a new file ‘rootpwd.txt’:
Conclusion
In this Linux command tutorial, we learned the basic syntax of sed command and with the most commonly and heavily used sed examples. One can use sed in bash or shell scripting to perform different automated tasks in text manipulation and sed operations in Linux shell. With this tutorial, one can easily understand sed and start implementing right away when required. If you have any questions, suggestions, feedback please write them in the comment box below.
Источник