弟が自宅を建てたいと相談にきました。私の土地の一部を買い受けて建てたいと言っています。どのような手続が必要でしょうか?

弟さんに譲る部分について分筆登記を行って、譲渡してください。
貸地とするのであれば登記の必要はありませんが、登記の性質上、一つの土地に複数の所有権を登記することは出来ません。そのため、土地の一部を譲渡する場合には、一個の土地を分けて、新しい番号(地番といいます)の土地をつくり、その分けた土地の所有権を譲渡することになります。
また、分筆登記を申請する場合には、まず、元の土地全体の境界を確認したうえで測量する必要があります。