Главная | Регистрация | Вход | Личные сообщения () | ФОРУМ | Планета Тайн | Из жизни.ру | ВТОРАЯ ПЛАНЕТА | Модераторы: Pantera; IgChad | Контакты

Пятница, 03.02.2023, 03:29
Привет, Гость Нашей Планеты | RSS
ПОДПИСАТЬСЯ НА ИЗВЕЩЕНИЯ ОБ ОБНОВЛЕНИЯХ САЙТА


Форма входа
Логин:
Пароль:

плюсы баннерной рекламы

Загрузка...


Другие новости

Загрузка...


Статистика

Рейтинг@Mail.ru
Онлайн всего: 28
Пользователей: 28
Сейчас комментируют: 0


Новости сегодня
Выступление Владимира Путина в Волгограде (1)

Новости готовят...

Новостей: 18900

В архиве: 11391

Новостей: 6751

В архиве: 11931

Новостей: 3998

В архиве: 155

Новостей: 3501

В архиве: 8413

Новостей: 1775

В архиве: 4005

Новостей: 1199

В архиве: 338

Новостей: 1036

В архиве: 17

Новостей: 1012

В архиве: 438

Новостей: 948

В архиве: 6969

Новостей: 879

В архиве: 1480

Календарь

ВСЕ НОВОСТИАРХИВВТОРАЯ ПЛАНЕТАФОРУМПРАВИЛА САЙТАДОБАВИТЬ МАТЕРИАЛ

Астрология и пророчества [900]Астрономия и космос [1211]Бывает же такое! [1897]
Гипотезы, версии, прогнозы [4061]Дом, сад, кулинария [780]Животные и растения [416]
Здоровье, человек [1456]Искусство, поэзия [490]История, археология, судьбы [4096]
Мир вокруг нас [1381]Наука и технологии [1019]Непознанное [2655]
НЛО, уфология [212]Новости, общество, в мире [13908]Психология и отношения [471]
Религии, учения [90]Советы и истории из жизни [635]Стихия, климат, экология [779]
Фильмы и видео [953]Частное мнение [2246]Это интересно! [2337]
Юмор, афоризмы, притчи [1063]


13:32
ИИ - это не чужеродный мир, это мы сами дали старт эволюции самого интеллекта


В 1945 году первый программируемый электронный компьютер общего назначения ENIAC мог выполнять четыреста FLOPS, четыреста операций с плавающей запятой в секунду, где одна операция - это, например, умножение двух чисел.

Почти 80 лет спустя, в 2022 году, самый быстрый суперкомпьютер сможет выполнять 1,1 exaFLOPS, то есть чуть более одного квинтиллиона операций в секунду. Когда у вас достаточно атомов, вы начинаете заниматься химией; когда у вас достаточно молекул, вы начинаете заниматься биологией, а когда у вас есть квинтиллионы FLOPS, вы начинаете заниматься искусственным интеллектом.

Мы вступаем в эпоху эволюции самого интеллекта, ИИ не будет иметь ограничений нашей биологии, он не будет обязан нашей эволюционной истории, у него не будет физических ограничений нашего черепа человеческого размера, он не будет ограничивать себя нашими чувствами, нашей интуицией или нашей памятью. В огромном пространстве возможных интеллектов начнут появляться обитатели, по одному новому жителю за раз.

За последний год искусство ИИ и ChatGPT кардинально изменили мои представления о том, насколько хорошим может стать ИИ в течение моей жизни. Иногда прорыв ИИ звучит впечатляюще, например, AlphaGo от DeepMind обыграл чемпиона мира по игре в го в 2016 году или AlphaFold предсказал сворачивание белка в 2021 году.

Однако во многих случаях для оценки результатов требуются специальные знания. В отличие от них, искусственный интеллект и ChatGPT являются очень популярными; я много экспериментировал с ними, как и многие из нас. Эти системы произвели большой фурор, потому что они оказались неожиданно эффективными в том, что они делают, и потому что так много людей опробовали их, что вызвало большой ажиотаж в обоих случаях.

Три отдельные системы ИИ, которые привели в движение сцену искусства ИИ, DALL-E 2, Midjourney и Stable Diffusion, были выпущены в 2022 году. Все три системы генерируют новые изображения на основе текстовых подсказок, и все они могут создавать поразительные, красивые и креативные произведения искусства. Кроме того, активное сообщество искусственного интеллекта отличается изобретательностью, создавая бесконечный поток впечатляющих изображений, и постоянно создает новые техники и инструменты. Есть и споры, поскольку некоторые традиционные художники чувствуют себя обманутыми и неуважаемыми - эта дискуссия продолжается.

Между тем, домен ChatGPT, выпущенный 30 ноября, - это текст, а не изображения. ChatGPT может давать плавные грамматические ответы практически на любую тему, но у него есть и серьезные недостатки, например, склонность к галлюцинациям ложной информации.

OpenAI осторожно заявляет, что ChatGPT - это только "предварительный исследовательский вариант". Несмотря на это, опыт взаимодействия с ним был настолько новым и захватывающим, что он сразу же стал вирусным; всего за пять дней OpenAI собрал миллион активных пользователей, что делает его одним из самых быстро принимаемых продуктов всех времен. ChatGPT стал для многих людей тревожным сигналом: ИИ внезапно стал хорошим.

Существование генеративного ИИ человеческого уровня - это историческое событие. Люди целенаправленно создавали изображения со времен пещерных рисунков Мальтравизо около 50 000 лет назад, а письменность существует уже более 5 000 лет.

Однако до последних нескольких лет, если вы видели изображения или письменность человеческого уровня, вы знали, что их создали люди. Сегодня это уже не так, и дальше будет только хуже: генеративный ИИ скоро будет создавать все виды медиа: видео, стихи, песни, музыку, сценарии, фильмы, книги, видеоигры и многое другое.

Несмотря на значительный прогресс - а может быть, и благодаря ему - реакция людей на достижения ИИ к 2022 году неоднозначна.

Одни приветствуют будущее, которое создает ИИ, а другие выражают серьезную озабоченность, даже тревогу, беспокойство и страх.

Первое опасение, похоже, заключается в том, не захватит ли ИИ мою работу?

Очевидной экстраполяцией этого вопроса является то, что ИИ заменит работу каждого человека?

Даже если правительство предоставит нам универсальный базовый доход, как мы найдем смысл и цель без работы?

Если нам нечем будет заняться, захотят ли ИИ вообще нас видеть?

Превратят ли они Землю в заповедник, заставят нас вернуться к натуральному хозяйству и будут держать нас в качестве домашних животных в террариуме на всей планете, пока ИИ исследует звезды?

Я думаю, что эти опасения вполне обоснованы, но я оптимистично считаю, что плюсы ИИ могут значительно перевесить минусы и риски. Я уверен, что мы сможем избежать ужасных последствий, если будем усердны. ИИ способен улучшить все сферы человеческой деятельности, потому что все, о чем мы заботимся, требует интеллекта.

ИИ приведет к огромным и постоянным улучшениям в области энергетики, производства, транспорта, управления ресурсами, бедности, здравоохранения, медицины, образования, науки, освоения космоса, политики, развлечений и многого другого.

Более того, меня очень успокаивает тот факт, что ИИ неизбежен; мы можем выбрать будущее без ИИ не в большей степени, чем мы могли бы удержать людей от внедрения электричества или водопровода. Переход уже идет полным ходом, поэтому мы можем сосредоточиться на том, чтобы управлять им наилучшим образом.

Осложняет ситуацию то, что у нас нет уже существующей ментальной категории для ИИ. Насколько нам известно, люди - единственные существа с интеллектом человеческого уровня во Вселенной.

Люди предлагают думать об ИИ как об инопланетянине, но, на мой взгляд, это приглашает нас думать о нем как о таинственном и даже пугающем, что является неправильным тоном.

Вместо этого я бы приравнял ИИ к тому, что у нас есть в избытке здесь, на Земле, к тому, что само по себе является сверхразумом, к тому, с чем мы уже хорошо знакомы: к организованным группам людей.

Представьте себе комнату сценаристов популярного телешоу, потные мастера слова, отбивающие одну шутку за другой. Представьте себе опытную рок-группу в конце длительного турне, предвосхищающую каждое музыкальное изменение друг друга.

Представьте себе гибкую стартап-компанию с несколькими десятками сотрудников, которые до поздней ночи работают над созданием нового инновационного продукта.

Представьте себе мощную мегакорпорацию с десятками тысяч работников, обслуживающих сотни миллионов клиентов. Представьте себе университет, оживленную кухню в отличном ресторане, приемное отделение больницы, спортивную команду чемпионов, батальон солдат или целую страну.



Наша способность координировать свои действия в малых и больших группах является одной из определяющих черт нашего вида, а взаимодействие с такими группами или принадлежность к ним занимает центральное место в жизни человека.

Поэтому, когда мы видим, что ИИ делает что-то "сверхчеловеческое", мы должны представлять себе команду людей - это могут быть два человека или двести тысяч человек. Мы также должны учитывать продолжительность работы; представьте, что эта группа людей работает в течение минуты, часа или ста лет, в зависимости от задачи.

В любом случае, это не волшебство; это большой объем тяжелой работы, сжатый в небольшой промежуток времени и пространства. Когда вы просите ИИ сделать что-то, большая часть работы уже сделана - она была сделана, когда ИИ обучался. Обучение большого ИИ требует ошеломляющего объема вычислений, но как только ИИ был обучен, каждое последующее использование ИИ использует ту же работу.

Конечно, мы можем и будем программировать ИИ, чтобы они действовали как личности, как люди или похожие на людей сущности: партнер по общению, советник или друг, но это всего лишь притворство. В фильме "Она" ИИ, озвученный Скарлетт Йоханссон, признается, что у нее были отношения с тысячами людей, а не только с персонажем Хоакина Феникса. Полноценный ИИ - это не личность, это огромная сложная программная система, созданная людьми.

В общей сложности миллионы людей работали над всем предшествующим программным обеспечением и математическими основами этой системы. А еще есть обучающие данные: мы обучаем современные ИИ с помощью все больших массивов обучающих данных: петабайты текста и изображений из миллиардов отдельных документов, миллионы часов видео и аудио.

Наборы данных для обучения ИИ стали настолько большими, что мы приближаемся к тому моменту, когда мы обучаем ИИ на всем; мы обучаем их на всем, что было создано людьми за всю нашу историю.

ИИ - не инопланетяне; они были задуманы и созданы людьми и обучены на собранных результатах труда людей, поэтому ИИ - это больше человек, чем человек; это человечество, сконцентрированное и сжатое. Вскоре мы начнем вводить полученную смесь каждому человеку внутривенно, за доли пенни за дозу, давая каждому из нас силу целого.

Любая цивилизация, которая просуществует достаточно долго, создаст такую же технологию, это просто слишком очевидно и слишком эффективно, и теперь мы знаем, что это достижимо.

Я нахожу неизбежность ИИ утешительной. Технологические гиганты не тащат нас пинками и криками в это будущее, ведя нас по какой-то случайной касательной. Напротив, именно эволюция привела нас сюда, и именно она толкает нас вперед.

Под эволюцией я подразумеваю более широкую силу постепенных изменений, которую мы видим в биологической эволюции жизни на основе ДНК, а также во многих других формах. Физика развилась в химию, которая развилась в биологию; биология развила человека, который создал язык и письменность, что привело к человеческой культуре, культуре, которая могла развиваться гораздо быстрее, чем биологическая эволюция.

Эта эволюция культуры и технологии в конечном итоге привела к созданию электронных цифровых компьютеров, которые тут же начали эволюционировать, причем нашими руками.

Хотя люди впервые выдвинули идею использования искусственных нейронных сетей, вдохновленных мозгом, в 1943 году, за два года до того, как армия закончила работу над ENIAC, оказалось, что обычные компьютеры гораздо проще строить и программировать, поэтому мы сосредоточили свое внимание на них.

Но это сработало замечательно, потому что мы создаем искусственные нейронные сети симбиотически на базе обычных компьютеров; мы используем нашу традиционную программную инфраструктуру и применяем большую часть того же самого оборудования. Мы не сбились с пути, создавая обычные компьютеры, это был необходимый процесс бутстрэппинга, но, похоже, что бутстрэп уже достаточно затянут.

В основе современного ИИ лежат искусственные нейронные сети, математические конструкции, которые были вдохновлены структурой и организацией нашего мозга, структурой и организацией, которая, как решила биологическая эволюция, является наилучшим способом выполнения вычислений с помощью мяса.

В одной клетке мозга может быть 100 триллионов атомов, превращенных в безумно сложные молекулярные машины, физически взаимодействующие друг с другом для создания поведения нейрона. Искусственные нейронные сети заменяют всю эту сложность несколькими простыми числами, "весами" или "параметрами" модели ИИ, которые передают силу связи между искусственными нейронами.

К концу 2022 года я окончательно убедился, что эта карикатурно простая имитация мозговой проводки столь же эффективна, как и настоящая, хотя она заменяет большую часть сложности биологического мозга относительно небольшим количеством чисел с плавающей запятой. Люди справедливо критикуют Большие языковые модели, такие как ChatGPT, не обладают истинным пониманием, и я согласен.

И они утверждают, что простое масштабирование сетей не сработает, и я согласен. Но есть прямое направление: нам нужно создать множество различных искусственных нейронных сетей и соединить их вместе. Мы можем разделить наш мозг на целых 180 различных областей; областей, которые развивались для разных целей на разных эволюционных путях. Будущее ИИ - это создание и последующая итерация этих отдельных регионов, улучшение и оптимизация отдельных частей, а затем итерация более крупных архитектур, созданных путем объединения этих регионов.

Все это мы будем делать с помощью ИИ, так как сложность находится за пределами того, что мы можем сделать без посторонней помощи. В результате мы получим десятки и сотни различных обученных нейронных сетей, соединенных вместе, работающих как единая система, работающая на уровне человека или намного выше, в любой области.

А как насчет рисков заселения нашей вселенной мощными искусственными интеллектами?

Даже без ИИ у людей уже есть множество экзистенциальных рисков: ядерная война, изменение климата, природные и искусственно созданные патогены, политическая поляризация, фашизм, территориальные споры, терроризм, удары астероидов, супервулканы и многое другое.

Добавление ИИ к этому списку не отражает масштаба проблемы, поскольку ИИ может ускорить и усилить другие риски. Представьте себе, что государство тратит миллиарды долларов на ИИ человеческого уровня, чтобы взламывать другие страны, вмешиваться в их выборы и дестабилизировать их экономику.

Представьте, что ИИ помогает государству-изгою создавать ядерное оружие или объясняет ему, как разработать и внедрить кошмарный вирус. Представьте себе террористов, проводящих мозговой штурм с ИИ, который дает им подробные инструкции о том, как устроить хаос, и каждый день и навсегда предлагает новые идеи.

А потом, конечно, сам ИИ может обернуться против нас и решить нас уничтожить, просто потому что мы мешаем ему, занимаем место и ресурсы.

Ведущий подкаста Тим Феррис пропагандирует упражнение, которое он называет "установка на страх", которое предполагает серьезное обдумывание самого худшего исхода, который вы можете себе представить. Насколько плох будет этот худший вариант?

Что именно вы будете делать, если произойдет худший вариант? Одним из наиболее важных статистических данных о нашем виде является минимальная жизнеспособная популяция - наименьшее число людей, которые могут снова стать миллионной популяцией.

Этот вопрос в первую очередь связан с генетикой: людей должно быть достаточно, чтобы избежать близкородственного скрещивания, и достаточно, чтобы противостоять эффекту генетического дрейфа, который представляет собой случайные изменения в частоте генов.

Но людей также должно быть достаточно для дифференциации труда, для специализации, которая освобождает людей для инноваций и изобретений, и достаточно, чтобы противостоять потерям от болезней или междоусобиц.

Более высокая оценка минимальной жизнеспособной популяции - 500 человек, но я встречал оценки до 80 человек. Вопрос о минимальной жизнеспособной популяции возникает при обсуждении колонизации Марса; например, сколько людей мы должны отправить туда, чтобы жить там?

Или сколько людей нужно отправить в космическое путешествие для нескольких поколений? Исторически сложилось так, что именно это число позволило нам как виду пережить кризисные моменты, когда наша популяция сокращалась во время тяжелых испытаний, в изоляции, без еды, цепляясь ногтями за выживание, прежде чем в конце концов, по ледниковому периоду, популяция снова выросла до здорового размера. Это минимальное число является критическим; если бы оно было намного больше, нас могло бы не быть сегодня.

Допустим, произойдет одна из этих катастрофических ситуаций, и люди потеряют 99% своего населения; это сократит нас с восьми миллиардов до примерно восьмидесяти миллионов человек. Но давайте сделаем еще хуже, намного хуже. Вскоре после первого удара, допустим, произойдет второе катастрофическое событие, которое приведет к потере еще 99% населения - две крупные катастрофы подряд.

Мы опустились с восьми миллиардов до всего лишь восьмисот тысяч человек. Вы можете видеть, к чему это приведет. Сколько различных групп по 500 и более человек останется?

Это зависит от географического распределения выживших; это может быть одна группа из восьмисот тысяч человек или 1600 небольших групп, каждая из которых насчитывает около 500 человек. Скорее всего, это будет нечто среднее: несколько сотен отдельных групп. Хорошая новость заключается в том, что если хотя бы одна из этих выживших групп сможет вернуться к функционирующей цивилизации, то человечество выживет; оно преодолеет эту двойную 99%-ную потерю и в конце концов возродится.

Назовем этот цикл уничтожения и возрождения "мягкой перезагрузкой", но сколько мягких перезагрузок мы можем себе позволить? По последним оценкам, Земля может оставаться пригодной для жизни еще как минимум 1,75 миллиарда лет, но для консервативности давайте допустим мягкую перезагрузку только в течение 100 миллионов лет, и сейчас мы увидим, почему. Сколько времени займет мягкая перезагрузка?

Опять же консервативно, предположим, что это займет десять тысяч лет - примерно столько длится наша нынешняя история. После события, близкого к вымиранию, мы дадим нам 10 000 лет, чтобы построить современное общество. Для многих катастроф, например, смертельного вируса, физическая инфраструктура предыдущей цивилизации останется нетронутой; однако неясно, поможет это или навредит времени перезагрузки, поэтому мы оставим в среднем 10 000 лет.

Это означает, что за 100 миллионов лет мы могли бы пройти через 10 000 мягких перезагрузок, каждая из которых длилась бы 10 000 лет. Я бы очень хотел, чтобы человечество все делало правильно с первого раза, но приятно знать, что у нас есть время для итераций, причем довольно много. Но что если наша популяция действительно упадет до нуля?

Это будет жесткая перезагрузка, когда нам придется ждать, пока вновь эволюционирует вид с интеллектом человеческого уровня. Мы дадим на это 100 миллионов лет, что вернет нас к периоду до нашего собственного вымирания в меловом и палеогеновом периодах.

Конечно, кто знает, какой вид естественный отбор эволюционирует на этот раз, и насколько он будет разумен, но 100 миллионов лет - это приличный промежуток времени. Интригует гипотеза Слуриана, который задается вопросом, могла ли в нашем прошлом произойти жесткая перезагрузка, но он приходит к выводу, что, скорее всего, ее не было.

Если у нас осталось 1,7 миллиарда лет существования пригодной для жизни Земли, то у нас есть время для 10 000 мягких перезагрузок и 16 жестких перезагрузок. Учитывая такой запас времени, мы должны играть в долгую игру, что означает, что одним из самых важных моментов является обучение на наших ошибках и на нашем опыте в целом.

Например, мы можем решить, что общество нуждается в радикальной децентрализации с первого дня, мы можем настаивать на том, что каждый регион Земли площадью в сто квадратных миль является самодостаточным. Возможно, это то, что мы должны записать в ДНК нашего общества после следующей перезагрузки. Это гипотетически; наши уроки будут зависеть от того, какая катастрофа нас постигнет.

Один из вариантов резкого завершения итерации: мы переживаем коллапс цивилизации, но ИИ это не устраивает, и они решают активно подавить наше возвращение, уничтожить нас или заключить в тюрьму. Это был бы очень плохой исход, которого мы должны всеми силами стараться избежать.

Ник Бостром написал о "проблеме выравнивания", "проблеме контроля" и многих других проблемах в своей влиятельной книге 2015 года "Сверхинтеллект: Пути, опасности, стратегии", и многие из его опасений теперь объединены в дисциплину под названием "Безопасность ИИ", которую человечеству следует внимательно изучить.

Представьте, что вы поздно вечером заканчиваете работу над сложным видео для проекта. Когда видео готово к экспорту, вы выбираете имя файла project. После экспорта видео вы просматриваете его "в последний раз", но быстро замечаете ошибку.

Вы редактируете временную шкалу, чтобы исправить ошибку, и экспортируете видео во второй раз. Вы не хотите перезаписывать первый экспортированный файл, поэтому используете новое имя. Но затем вы обнаруживаете еще одну ошибку, а затем еще одну. Люди, оказавшиеся в подобной ситуации, часто получают забавную прогрессию имен файлов, подобную этой:

project

project-final

project-latest

project-latest-fixed

project-latest-SUBMIT-THIS-ONE .

В конце концов, я проходил этот путь достаточно раз, чтобы просто пронумеровать экспортированные файлы, например, так:

проект-001

проект-002

проект-003

проект-004

Это небольшая разница, но нумерованная схема позволяет избежать наивного предположения, что первый экспорт будет последним. Вместо этого использование цифр позволяет понять, что мы итерируем: создаем одну версию, учимся на ней и создаем следующую, снова и снова.

Нумерованная схема именования напоминает мне о точках сохранения в видеоиграх. Во многих играх, если вы погибаете, вы перезапускаетесь с последней точки сохранения. Если уровень сложный, вам, возможно, придется переигрывать эту часть игры десятки и сотни раз, продвигаясь вперед только после того, как вы узнали и улучшили достаточно. В некотором смысле это напоминает идею реинкарнации: вы используете свой опыт в предыдущей жизни, чтобы помочь себе лучше работать в нынешней.

Когда вы играете в видеоигру, момент, когда вы выходите из режима повторения, возвышен; вы преодолеваете свой предыдущий максимум и попадаете на территорию, которую никогда не видели. Внезапно вы оказываетесь в новой части мира: сюжет новый, враги новые, предметы, которые вы собираете, новые, и стратегии, которые требуются, новые.

Это больше не отрепетированное выступление; это не консервирование, не повтор, а настоящая живая игра. Эта фаза игры захватывает, потому что вы реагируете от момента к моменту на новые ситуации; это чистая игра, и она особенная, потому что вы знаете, что она может закончиться в любой момент.

Сегодня человечество находится в этой возвышенной фазе: мы никогда раньше не заходили так далеко, никогда раньше не делали такого точного исторического выбора и уж точно никогда не создавали таких систем искусственного интеллекта, какие мы создаем сейчас.

Мы мчимся со скоростью сто миль в час в неизвестность, и это захватывает дух; однако давайте будем внимательны, давайте узнаем как можно больше, давайте будем делать тщательные записи и хранить их в надежном месте - на случай, если нам придется делать все заново.

Автор: Филип Уинстон





Оцените материал:




ПОДЕЛИСЬ С ДРУЗЬЯМИ:


Материалы публикуемые на "НАШЕЙ ПЛАНЕТЕ" это интернет обзор российских и зарубежных средств массовой информации по теме сайта. Все статьи и видео представлены для ознакомления, анализа и обсуждения. Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.


Категория: Гипотезы, версии, прогнозы | Источник: https://vk.com| Просмотров: 240 | Добавил: Pantera| | Теги: Это, не, сами, Старт, дали, интеллекта, самого, эволюции, мы, ИИ, мир, Чужеродный | Рейтинг: 1.6/7

В КОММЕНТАРИЯХ НЕДОПУСТИМА КРИТИКА САЙТА,АДМИНИСТРАТОРОВ,МОДЕРАТОРОВ и ПОЛЬЗОВАТЕЛЕЙ,КОТОРЫЕ ГОТОВЯТ ДЛЯ ВАС НОВОСТИ! УВАЖАЙТЕ ЧУЖОЙ ТРУД!
Всего комментариев: 2
0
1 Ferz   (09.01.2023 18:18) [Материал]
.

-1
2 ЯесмьМУСА   (09.01.2023 19:07) [Материал]
Цитата: "... давайте будем делать тщательные записи и хранить их в надежном месте - на случай, если нам придется делать все заново."

Поздно, Филип, поздно!
Не успеете записать, и ничего заново не придётся, ибо, человечество летит в пропасть технократического прогресса.

Имя *:
Email:
Подписка:1
Код *:


По этой теме смотрите:

Загрузка...

Астрономия и космос [1380]Безумный мир [2114]Взаимоотношения людей [1055]Войны и конфликты [1527]
Гипотезы и версии [10751]Дом, сад, кулинария [3178]Животные и растения [2453]Здоровье, психология [4270]
Искусство, литература, поэзия [736]История, археология [3559]Мир вокруг нас [3006]Мировые новости [3592]
Наука и технологии [1124]Непознанное [3424]НЛО и уфология [880]Общество [7057]
Прогнозы ученых,исследования [481]Происшествия, чп, аварии [1414]Предсказания и астрология [879]Религии, учения [484]
Российские новости [5669]Советы и истории из жизни [846]Стихия, климат, экология [1926]Феномены и аномалии [915]
Фильмы и видео [4031]Частное мнение [5696]Это интересно! [4123]Юмор, афоризмы, притчи [2399]



Поиск


НАША БЕСЕДКА

СЕЙЧАС НА САЙТЕ:
Онлайн всего: 28
Пользователей: 28
Сейчас комментируют: 0

Мы комментируем

Загрузка...

На форуме

Интересное сегодня
Выступление Владимира Путина в Волгограде (1)

Loading...

Активность на форуме

Постов на форуме: 6617
Группа: Модераторы

Постов на форуме: 5197
Группа: Проверенные

Постов на форуме: 4194
Группа: Проверенные

Постов на форуме: 3871
Группа: Проверенные

Постов на форуме: 2877
Группа: Модераторы

Постов на форуме: 2864
Группа: Проверенные

Великие комментаторы:
Василёк
Комментариев: 19795
Группа: Друзья Нашей Планеты
Микулишна
Комментариев: 16982
Группа: Друзья Нашей Планеты
nikolaiparasochko
Комментариев: 12329
Группа: Проверенные
Geda
Комментариев: 10248
Группа: Проверенные
Ferz
Комментариев: 9763
Группа: Проверенные
надёжа
Комментариев: 9621
Группа: Проверенные



18+