Ошибки нет. При заданных параметрах (Баттерворт, 3 МHz полоса) то в расчете и получается.
Попробуйте тип Чебышёва и поставьте неравномерность в полосе 0,5 dB (на практике это незаметно, а номиналы делает более удобоваримыми). И полосу пробуйте расширять.
Фильтры вообще очень сложная штука (несмотря на внешнюю незатейливость схем). И не любой расчет дает физически реализуемые результаты. Кроме того типов фильтров немало, в RFSim99 реализованы только два наиболее употребительных: Баттерворта и Чебышёва. И видов связи тоже немало (и опять же в RFSim99 считается только один – полным включением среднего контура). И приходится немало потрудиться, чтобы получить физически реализуемый фильтр с желаемыми параметрами.
Для понимания в аттаче фильтр Чебышёва с емкостной связью (RFSim99 автоматически такой не сделает). Номиналы там поприличнее. Хотя перед реализацией я бы эту модель внимательно поизучал, не рассыплется ли всё при реальных добротностях.