Находка дня.

http://plugins.jquery.com/kana/

A jQuery plugin that adds kana (hiragana or katakana) functionality to an input field.

И никаких этих ваших линуксовых IME, коих 100500 штук и чёрт знает как работают :}