Intellect Board — cистема управления сайтом

1. надо делать запрет на регистрацию при смешанном языке
2. вводить канонизированные ники и уже по ним отслеживать схожие

Видимо, тут проблемы с настройками БД какие-то. Такое однажды было на одном из проектов, когда в кодировке базы стоял UTF-8 с сортировкой по умолчанию. Тогда помогла смена сортировки на UTF-8 binary.

так вобще то это и есть настройка конкретной базы данных. Не знаю как сменить на уже существующей, но можно указать это всё при создании базы:
mysql> CREATE DATABASE MY_COOL_DB
-> CHARACTER SET utf8;
итд...Подробнее следует читать мана по мускулю.

ну видимо у меня у одного дурная привычка своевременно всё обновлять до СТЕЙБЛ версии.

Если у тебя нормально настроена кодировка, то проблем не будет.
Это можно посмотреть, выполнив такой запрос:
SELECT CHARSET(u__name) FROM prefix_User LIMIT 1

Если в качестве результата будет cp1251 (или windows-1251), то проблем не возникнет.

Но советую помнить, что кириллица в именах противоречит Сетевым традициям, поэтому если есть возможность ее не допускать (т.е. пользователи не разбегутся), то лучше это сделать.