ネットから拾ってきた
平仮名の『へ』と片仮名の『へ』は全く同じ表記です。
これは、平仮名の『へ』の字形が《部》のつくり(漢字の主に右側)の草書体(速く書くことができるように、字画の省略が大きく行われたもの)から生まれた物で、片仮名の『へ』も同様に創られました。
わかりやすい例を挙げると、平仮名の『え』は《衣》の草体、片仮名の『エ』は《江》のつくりです。
『へ』で終わる基本的な漢字が少なかったのも、同じ表記になった理由の一つでしょうね。
よって質問にあった『へ』の半濁音『ぺ』は平仮名、片仮名共に同じ表記になった訳です。