Что нужно знать для определения информационного веса символа алфавита некоторого естественного или формального языка?

Для этого нужно знать количество символов в алфавите. Например если символов 256, как на клавиатуре, то каждый символ будет весть 8 бит. так как для каждого символа будет своя комбинация из восьми нулей или единиц. Если в алфавите 2 буквы, хватит одного бита. 4 или меньше букв - 2 бита, 8 букв - 3 бита, 16 - 4 бит, 32 - 5 бит, 64 - 6 бит, и так далее