Ионизировать можно с помощью радиоволн, но по какой формуле рассчитать частоту этих волн, нужную для этого процесса, для конкретного вещества?

Для каждого вещества своя энергия ионизации, она различна, ее искать надо в справочниках

эту энергию приравниваешь к энергии электромагнитной волны

(шучу, приравниваешь к энергии фотона по формуле Планка)

и находишь искомую минимальную частоту электромагнитной волны

(радиоволна - является электромагнитной тоже)

желаю удачи!