1. Нужно сделать, чтобы параметры authentication, membership и roleManager совпадали. Если форум находится в дочерней виртуальной директории основного сайта, то достаточно удалить соответствующие ветки конфига форума, тогда форум унаследует настройки основного сайта.
2. Нужно изменить profile следующим образом:
<profile enabled="true" defaultProvider="SqlProfileProvider" inherits="YAF.Classes.Utils.YafUserProfile">
<providers>
<clear/>
<add name="SqlProfileProvider"
type="System.Web.Profile.SqlProfileProvider"
connectionStringName="aspnetdb"
applicationName="AppName"/>
</providers>
</profile>
Указав имя строки подключения основного приложения в connectionStringName, а также нужное имя приложения в applicationName. Смысл простой: мы говорим, что нужно использовать стандартный провайдер SqlProfileProvider, данные брать из базы данных connectionStringName, а сами профайлы должны быть типа YafUserProfile.
3. Нужно использовать один machineKey на оба приложения и он не должен автоматически генерируемым.
4. Разобраться с ролями используемыми в приложении и в форуме.