<section>あいう<b>えおかきく</b>けこさしすせそ</section>

このようなHTMLがあったとき、５文字ずつに区切りたいとします。
結果として、section タグ内のHTMLを

<div>あいう<b>えお</b></div><div><b>かきく</b>けこ<div>さしすせそ</div>

のようにもともと囲まれている b タグは維持しつつ、div タグで囲む方法はありますか？
よろしくお願いします。