вообще замена тега для элемента с заданным id делается с помощью:
document.getElementById('id').outerHTML = '<внешний тег>'+document.getElementById('id').outerHTML+'</внешний тег>';

Или например по DOM - можно создать новый тег, назначить ему родителя(бывшего родителя старого тега) и потомка - старый тег.

А в остальном не очень понял что Вы хотите делать. При выделении текста мышкой делать выделенную часть жирной или что?

Выделяешь часть текста, нажимаешь кнопку, и он помещается в BB-теги.
Не DesignMode, просто в текстарее.

Копипаст с http://www.tigir.com/javascript.htm

Как заменить выделенный текст в TEXTAREA на другой?

Как это ни "странно" :-), но реализация ветвится из-за разных методов работы с выделениями в IE и Mozilla/Gecko:
IE4+
В Internet Explorer используем объект selection, который представляет текущее выделение и его метод createRange, создающий объект TextRange из текущего выделения. Полученный TextRange объект имеет свойство text (для чтения и записи), которое и дает нам выделенный текст. Т.е. прочитали TextRange.text, сделали изменения и записали назад.

См. реальное использование в примере ниже.
Mozilla/Gecko
Ну, а здесь ситуация выглядит несколько по-другому: для достижения цели используем свойства selectionStart и selectionEnd самого объекта textarea, которые содержат начальную и конечную позицию выделения соответственно. А имея текст и зная в нем начало и конец для замены, мы можем легко заменить выделенный фрагмент на другой используя, например метод "substr()".
Пример: В качестве аргумента ф-ии передается объект textarea и имя вспомогательной функции, которая принимает в качестве аргумента выделенный текст и возвращает новый текст, который заменит выделенный текст. После замены текста курсор устанавливается в конец выделения.


Пример использования:
//Определяем вспомогательную ф-ю которая
//принимает строку и возвращает её в нижнем регистре
function lCase(s){return s.toLowerCase();}

//заменяем выделенную строку в нижний регистр
replaceSelectedText(document.formName.textareaName,'lCase');

Замечание модератора: Эта тема была закрыта автоматически ввиду отсутствия активности в ней на протяжении 100+ дней. Если Вы считаете ее актуальной и хотите оставить сообщение, то воспользуйтесь кнопкой или обратитесь к любому из модераторов.